AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
首页
面试题库
淘宝闪购面试题
Transformer 中多头注意力为什么要将注…
淘宝闪购面试题
更新 2026-08-05
Transformer 中多头注意力为什么要将注意力分数除以 sqrt(dk)?
淘宝闪购
人工智能
消费品/零售
技术原理
方案权衡
Transformer
考察说明
考察注意力机制数值稳定性与理论依据
回答思路
说明缩放的目的:防止点积过大导致 softmax 梯度消失
指出除以 sqrt(dk) 使方差为 1 的数学推导
讨论对训练稳定性和收敛速度的影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
请比较 Redis 的 RDB 和 AOF 持久化机制的优缺点。
下一题
请解释单例模式,并说明其主要应用场景。
本题还出现在
消费品/零售行业面试题
人工智能面试题