淘天集团面试题更新 2026-08-05

从代码实现上讲,Decoder中的Mask是如何作用在Self-Attention分数上的?

淘天集团人工智能互联网/IT编码实现技术原理Transformer

考察说明

考察对注意力分数加权与掩码矩阵应用的代码级理解

回答思路

  1. 说明使用上三角矩阵作为掩码,并将掩码位置填充为负无穷大
  2. 解释将掩码加到注意力分数上后在softmax归一化中对应位置概率趋于零
  3. 能说明掩码矩阵与注意力分数矩阵的维度对齐关系
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。