科大讯飞面试题更新 2026-08-05
自注意力机制中为什么要除以根号 dk？
科大讯飞人工智能专业服务问题拆解技术原理Transformer
考察说明
考察对自注意力缩放因子的数学原理与作用的理解
回答思路
- 解释点积结果随维度增长而方差增大的原因
- 说明除以根号 dk 可将结果缩放，避免进入 softmax 饱和区
- 联系梯度消失与数值稳定性的影响
- 能结合 Transformer 架构应用场景说明必要性
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
