度小满面试题更新 2026-08-05

Pre Norm 与 Post Norm 的区别是什么?

度小满好未来快手人工智能互联网/IT金融教育/培训技术原理方案权衡Transformer

考察说明

考察对 Transformer 归一化位置及其对训练稳定性和性能影响的理解

回答思路

  1. 准确定义 Pre Norm 和 Post Norm 的归一化位置
  2. 说明两者在残差连接中的差异
  3. 分析对梯度流动和训练稳定性的影响
  4. 讨论深层模型中的性能表现权衡
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。