作业帮面试题更新 2026-08-05

请解释多头注意力机制中 Q、K、V 的作用,并说明为什么需要对注意力分数进行缩放。

作业帮人工智能互联网/IT技术原理方案权衡

考察说明

考察对 Transformer 多头注意力机制原理及缩放原因的理解

回答思路

  1. 正确解释 Q、K、V 的查询-键-值语义及其在计算注意力权重和输出中的作用
  2. 准确描述多头机制的拆分与拼接过程
  3. 明确说明缩放因子为 d_k 的平方根并解释其防止 softmax 梯度消失或饱和的原因
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。