淘天集团面试题 · 问题拆解 · Transformer
淘天集团相关面试题,按最终去重题目聚合。
共 2775 道真题 · 当前筛选命中 6 道 · 更新 2026-08-05
筛选题目已选:问题拆解 · Transformer
考察点
技术栈
第 1 题请实现多头自注意力机制。 考察对Transformer核心组件的理解与编码实现能力第 2 题多头注意力机制与单头注意力机制相比,在计算量和参数量上有什么变化? 考察对多头注意力机制计算复杂度和参数规模的理解第 3 题在Transformer的Decoder中,为什么需要Mask来遮住未来的信息? 考察对自回归生成与注意力机制因果性的理解第 4 题请说明 Transformer 中编码器与解码器的注意力机制有何区别,并解释在缩放点积注意力中除以√dk 的原因。 考察对 Transformer 注意力机制的理解深度,包括结构差异与数学原理第 5 题请手写实现Transformer Decoder层,并说明如何实现mask机制以支持自回归生成。 考察对Transformer Decoder结构、自注意力mask和因果掩码的实现能力第 6 题Transformer的注意力为什么要多个头,多个头为什么能注意到不同信息,为什么一个头不能呢,反正最终输出都是相同维度,难道一起就学不到分开的东西吗 考察多头注意力机制的设计动机与信息多样性