快手面试题 · Transformer
快手相关面试题，按最终去重题目聚合。
共 3254 道真题 · 当前筛选命中 53 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题Attention机制有哪些常见类型？位置编码有哪些常见方式？ 考察对Transformer核心组件Attention机制和位置编码的分类与原理理解第 2 题在 Transformer 的缩放点积注意力中，为什么 Q 和 K 的点积要除以根号下 d_k，能不能用其他数值？请从数学原理上解释。 考察对注意力机制数学原理的理解，特别是方差分析与缩放因子的作用第 3 题Pre Norm 与 Post Norm 的区别是什么？ 考察对 Transformer 归一化位置及其对训练稳定性和性能影响的理解第 4 题讲讲Transformer的原理。 考察对Transformer架构核心组件及其工作原理的理解第 5 题MOE(混合专家模型)和传统Transformer的核心区别是什么? 考察对MoE架构及其与标准Transformer差异的理解第 6 题你了解大模型的基本原理吗？请简要介绍你熟悉的大模型架构和核心概念。 考察对大模型基础知识和核心概念的掌握程度第 7 题在 Transformer 架构中，MOE（混合专家模型）一般加在哪些位置？ 考察对 MOE 组件在 Transformer 中部署位置的理解第 8 题请解释RoPE（旋转位置编码）如何用绝对位置编码实现相对位置感知，并从数学直觉上说明其原理。 考察对旋转位置编码数学原理与设计动机的理解第 9 题请解释KV Cache在Transformer推理中的原理及其作用。 考察对Transformer推理优化中KV Cache机制的理解第 10 题Position Embedding 有哪些常见类型？ 考察对位置编码技术演进和原理的理解第 11 题请详细介绍Transformer模型的结构和工作原理。 考察对Transformer模型架构、核心机制及工作原理的理解第 12 题讲讲Transformer的架构 考察对Transformer整体架构及核心组件的理解第 13 题Transformer中的Q、K、V分别来自哪里？各自代表什么含义？ 考察对Transformer自注意力机制中查询、键、值向量来源与作用的原理理解第 14 题介绍Transformer原理 考察对Transformer架构核心机制的理解第 15 题请解释 Transformer 中位置编码（Positional Encoding）和 Layer Normalization 的作用及实现方式。 考察对 Transformer 核心组件原理与实现细节的理解第 16 题多头注意力机制有哪些常见的改进方向？请举例说明。 考察对注意力机制变体的了解与对比能力第 17 题有去了解过大语言模型原理吗？ 考察对大型语言模型基础原理的主动学习与理解深度第 18 题请解释自注意力机制（Self-Attention）的核心原理及其在 Transformer 中的作用。 考察对自注意力机制原理、计算过程及其在 Transformer 中重要性的理解第 19 题Transformer 中的位置编码是如何设计的？常见的改进方案有哪些，ROPE 的原理是什么？ 考察位置编码的设计思路、改进方向和旋转位置编码的理解第 20 题为什么Transformer使用三角函数位置编码，相比于[1,2,3..]这种硬编码的好处在哪？ 考察位置编码设计动机与相对位置信息建模