哔哩哔哩面试题 · 技术原理 · Transformer
哔哩哔哩相关面试题，按最终去重题目聚合。
共 2456 道真题 · 当前筛选命中 17 道 · 更新 2026-08-05
筛选题目已选：技术原理 · Transformer
考察点
技术栈
第 1 题为什么近两年大模型突然火起来？ 考察对大模型技术演进和产业爆发原因的理解第 2 题请详细说明Transformer模型的核心结构组成及其各组件的作用。 考察对Transformer架构的深入理解与模块间关系的把握第 3 题挑选一个你最喜爱的大语言模型，讲解其预训练过程与模型架构。 考察对大模型预训练流程与架构设计的理解深度第 4 题请介绍Transformer的整体架构，并说明Self-Attention与Cross-Attention的区别。 考察对Transformer核心组件及其机制差异的理解第 5 题DIN和Transformer 的注意力机制区别 考察对两类注意力机制原理、适用场景与计算方式的差异化理解第 6 题在Transformer中，非线性变换主要由哪个部分提供？ 考察对Transformer各组件非线性来源的理解第 7 题请介绍 Transformer 的核心架构，并说明自注意力机制是如何工作的。 考察对 Transformer 架构与自注意力机制的理解深度第 8 题讲一下Transformer的计算复杂度？ 考察对Transformer计算复杂度的理解及其与序列长度的关系第 9 题Attention有什么缺点？ 考察对注意力机制局限性的认识与权衡分析第 10 题你会使用哪些序列建模方法（如 Transformer、GRU）？ 考察对常见序列模型的理解和选型能力第 11 题Transformer中哪个结构最有效？ 考察对Transformer各组件作用与重要性的理解第 12 题请介绍Transformer的核心结构，包括自注意力机制、多头注意力的作用以及位置编码的必要性。 考察对Transformer基础组件及其设计动机的理解第 13 题长序列建模还有哪些方式？ 考察对长序列建模方法的广度认识与对比能力第 14 题为什么Attention有效？ 考察对注意力机制原理和优势的深度理解第 15 题Transformer中除了注意力模块，还有哪些关键组件？各自的作用是什么？ 考察对Transformer整体架构的全面理解第 16 题Batch Normalization和Layer Normalization有什么区别？在Transformer中通常使用哪种？ 考察归一化方法原理及在Transformer中的选用原因第 17 题Transformer位置编码的原理是什么？有哪些常见的改进方案？ 考察对Transformer位置编码机制的理解及对改进方法的掌握