淘天集团面试题更新 2026-08-05
从代码实现上讲,Decoder中的Mask是如何作用在Self-Attention分数上的?
淘天集团人工智能互联网/IT编码实现技术原理Transformer
考察说明
考察对注意力分数加权与掩码矩阵应用的代码级理解
回答思路
- 说明使用上三角矩阵作为掩码,并将掩码位置填充为负无穷大
- 解释将掩码加到注意力分数上后在softmax归一化中对应位置概率趋于零
- 能说明掩码矩阵与注意力分数矩阵的维度对齐关系
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。