人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 521 题LLM中常用的激活函数有哪些？ 考察对主流大语言模型架构中激活函数选型的理解第 522 题大模型中的注意力机制是如何工作的？它在大模型中起到了什么作用？ 考察对注意力机制原理及其在大模型中核心作用的理解深度第 523 题相比之下，Decoder-only相比Encoder-Decoder架构有哪些具体优势？ 考察对两类架构差异的深入辨析能力第 524 题请介绍Qwen系列模型的结构和特点。 考察对Qwen系列模型架构、设计理念和关键特性的了解第 525 题当 Transformer 网络层数过深导致训练不稳定时，你会如何处理？ 考察对深层 Transformer 训练稳定性问题的理解与解决手段第 526 题请简要介绍大模型领域的主要发展历程，并指出几个关键的里程碑事件。 考察对大模型技术演进脉络的认知与关键节点梳理能力第 527 题Transformer架构为什么要切分为多头？ 考察对多头注意力机制设计动机与效果的理解第 528 题自注意力机制是怎么计算的？其时间复杂度是多少？ 考察对自注意力机制原理和时间复杂度的理解第 529 题请列举几个基于 Transformer 的经典语言模型，并说明 Qwen 相比原始 Transformer 在结构上做了哪些主要改动？ 考察对 Transformer 架构演进和主流模型结构差异的理解第 530 题请解释 Encoder Only、Decoder Only 和 Encoder-Decoder 架构的区别。 考察对主流 Transformer 架构变体的理解及其适用场景第 531 题如何看待目前大语言模型都是decoder-only结构？ 考察对大语言模型架构演进的原理性理解与权衡分析第 532 题请介绍Transformer中多头注意力机制（MHA）的工作原理及其作用。 考察对Transformer核心组件多头注意力机制的理解深度第 533 题说一下大模型常用的位置编码有哪些，各有什么优缺点 考察对Transformer位置编码方案的原理理解与工程取舍第 534 题请说明 Transformer 中自注意力机制的核心原理，以及它与循环神经网络在处理长距离依赖上的差异。 考察对Transformer自注意力机制的理解及与RNN的对比能力第 535 题在Transformer的encoder中，感受野理论上覆盖所有token。你认为感受野越大越好还是越小越好？请说明你的判断依据和潜在权衡。 考察对Transformer全局注意力机制原理、性能与计算开销权衡的理解第 536 题是否有Attention极化现象，如何应对？ 考察对Transformer中注意力分布极化问题的理解与应对策略第 537 题请解释自注意力（self-attention）机制的工作原理，并说明其相对于循环神经网络的优势。 考察对 Transformer 核心机制的理解以及与传统序列模型的对比分析能力第 538 题分析一下 DIN 的注意力机制和 Transformer 的注意力机制有什么不同。 考察对注意力机制的深入理解，辨析其在推荐系统与序列建模中的差异第 539 题请解释自注意力机制的基本原理，并说明它相对于循环神经网络的优势。 考察对自注意力机制的理解及其在序列建模中的优势第 540 题请介绍 Transformer 的核心架构，并说明它相比传统序列模型的主要优势。 考察对 Transformer 整体架构和核心优势的理解