人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 581 题Transformer位置编码为什么选择基于正弦和余弦函数的sincos编码？ 考察对sincos位置编码设计原理的理解，包括相对位置和学习特性第 582 题训练过程中 Transformer 更新哪些参数？ 考察对 Transformer 模型训练时参数更新范围的掌握第 583 题请解释Transformer中Attention机制的基本原理和作用。 考察对Attention机制核心概念的掌握第 584 题序列的MHA是怎么做的？ 考察对多头注意力机制在序列建模中原理与实现细节的理解第 585 题请谈谈你对大模型底层逻辑的理解。 考察对大模型基本原理和技术细节的掌握程度第 586 题Transformer 架构中，Encoder 和 Decoder 有什么区别？ 考察对 Transformer 组件角色与工作机制的理解第 587 题请介绍 Transformer 模型的核心结构和工作原理。 考察对 Transformer 架构核心组件及其协同机制的理解第 588 题Transformer的normalization,为什么用LayerNorm不用其他的;介绍RMSNorm 考察对Transformer归一化机制的理解与归一化技术选型的权衡第 589 题请介绍你熟悉领域中的一个经典模型，并说明它的核心思想、适用场景以及相较于前后模型的优劣势。 考察对领域经典模型的深度理解、演进脉络和比较分析能力第 590 题请谈谈你对大模型技术（如Transformer架构、训练与推理流程）的了解程度。 考察对大模型核心概念和技术的掌握深度第 591 题请介绍 Transformer 的核心架构组成，并说明自注意力机制的原理。 考察对 Transformer 架构的理解深度与关键机制掌握第 592 题请描述大模型最常用的网络结构，并说明其核心组成。 考察对大模型基础架构的理解与表述能力第 593 题为什么LoRA作者最初将可训练矩阵施加在注意力层的q、k、v、o权重上？ 考察对注意力层关键作用及原始论文设计动机的理解第 594 题请解释Self-Attention机制的原理及其在Transformer中的作用。 考察对注意力机制核心思想与计算流程的理解第 595 题Transformer中LayerNorm通常放在Attention之前还是之后？请说明各自实现。 考察对Pre-LN和Post-LN结构差异的基本认知第 596 题请介绍Transformer在多目标跟踪中的应用。 考察对Transformer机制及其在多目标跟踪中应用的理解第 597 题请谈谈 Transformer 在计算机视觉领域的主要结合方式与应用。 考察对视觉 Transformer 核心思想、主流架构及适用场景的理解第 598 题BLIP-2 中 Q-Former 的作用是什么？为什么要加一个 Query Transformer？ 考察对 BLIP-2 架构设计动机的理解，尤其是视觉语言对齐与训练效率第 599 题请介绍Transformer模型中编码器（Encoder）和解码器（Decoder）的结构与各自作用，并说明它们之间的区别。 考察对Transformer核心组件结构与功能差异的理解第 600 题请比较LSTM与Transformer的优缺点，并说明各自适用的场景。 考察对循环神经网络与注意力机制架构的深入理解及场景适配能力