平安科技面试题更新 2026-08-05
请解释Transformer中多头注意力机制的「多头」具体指什么，以及它解决了什么问题。
平安科技人工智能金融技术原理方案权衡Transformer
考察说明
考察对多头注意力机制设计动机与作用的深入理解
回答思路
- 清楚说明多头是指将Q、K、V投影到多个低维子空间分别计算注意力
- 解释每个头关注不同子空间模式，增强表达多样性
- 说明多头通过拼接和线性变换整合多视角信息
- 对比单头注意力优势，涵盖信息交互和训练稳定性
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
