请在白板/代码中实现Transformer的Decoder Block(含Masked Self-Attention与Cross-Attention)。
考察说明
考察对Transformer Decoder结构、子层顺序及掩码细节的掌握与编码能力
回答思路
- 正确写出Decoder Block的三个子层:Masked Self-Attention、Cross-Attention(K/V来自Encoder输出)、FFN
- 正确使用因果掩码区分训练/推理的注意力可见范围
- 正确实现层归一化、残差连接及子层顺序
- 能说明Cross-Attention中Q/K/V的来源及维度对齐
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。