以大模型预测 token 为例,请讲清楚 Beam Search 的搜索树如何构建,以及如何得到最终解码结果(可用 PyTorch 做简单说明)。
考察说明
考察对 Beam Search 原理、束宽管理与终止条件的理解
回答思路
- 说明 Beam Search 树以部分序列为节点、扩展为添加下一个 token 的分支
- 解释如何在每步保留得分最高的 top-k 个候选序列
- 说明概率打分通常取对数避免下溢,并正确归一化长度
- 说明终止条件(到达结束符或最大长度)和最终最优序列选取
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。