新浪&微博面试题更新 2026-08-05

请详细说明 Transformer 中多头注意力(MHA)的计算过程及其作用。

新浪&微博人工智能技术原理Transformer

考察说明

考察对多头注意力机制内部机制的深入理解

回答思路

  1. 能描述 Q、K、V 的生成与计算
  2. 能解释缩放点积注意力和 softmax
  3. 能说明多头拼接与线性投影
  4. 能说明多头机制带来的益处
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。