度小满面试题更新 2026-08-05
Pre Norm 与 Post Norm 的区别是什么?
度小满好未来快手人工智能互联网/IT金融教育/培训技术原理方案权衡Transformer
考察说明
考察对 Transformer 归一化位置及其对训练稳定性和性能影响的理解
回答思路
- 准确定义 Pre Norm 和 Post Norm 的归一化位置
- 说明两者在残差连接中的差异
- 分析对梯度流动和训练稳定性的影响
- 讨论深层模型中的性能表现权衡
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。