人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 561 题Transformer注意力机制的复杂度是多少？怎么计算？ 考察对注意力机制时间复杂度推导的理解第 562 题在大模型推理过程中，Prefill（预填充）和 Decode（解码）阶段分别做了什么？ 考察对Transformer推理两阶段流程及计算特征的理解第 563 题请说明 Transformer、BERT 和 GPT 各自使用的位置编码方式，并比较其异同。 考察对主流模型位置编码原理的理解与对比能力第 564 题Transformer 中的 Q、K、V 分别是什么含义？ 考察对注意力机制核心概念的理解第 565 题GPT 模型使用的激活函数有哪些？ 考察对 Transformer 激活函数及其位置和原因的理解第 566 题Transformer中QKV是怎么得到的？ 考察对Transformer自注意力机制中QKV生成原理的理解第 567 题请介绍 Transformer 模型的核心结构，并说明其相比传统循环神经网络的主要优势。 考察对 Transformer 架构的理解和对比能力第 568 题GPT 模型在推理时，每一层的输入和输出分别是什么？ 考察对 Transformer 解码器逐层前向传播中隐藏状态流动的理解第 569 题请介绍Transformer的核心组件，并说明每个组件的作用。 考察对Transformer架构关键模块及其功能的理解第 570 题自注意力机制中为什么要除以根号 dk？ 考察对自注意力缩放因子的数学原理与作用的理解第 571 题多头注意力机制相比单头注意力在计算效率上是否有优势？请从矩阵计算角度说明。 考察对多头注意力计算结构的理解和效率分析能力第 572 题请解释Transformer模型中的多头注意力机制是如何工作的？ 考察对多头注意力机制原理、作用及其在Transformer中意义的理解第 573 题为什么BERT时代没有出现scaling law？ 考察对规模法则前提、历史背景和架构差异的理解第 574 题请介绍你对ChatGPT整体架构的理解。 考察对大模型整体架构和关键组件的掌握程度第 575 题Transformer的流程,和CNN的区别 考察对Transformer架构流程的理解及与CNN的对比第 576 题请解释自注意力（self-attention）与目标注意力（target-attention）的区别。 考察对注意力机制变体及其应用场景的理解第 577 题请介绍LLM的Decoder-Only架构，并说明其关键组成部分。 考察对Decoder-Only架构的基本原理、结构组成及核心概念的理解第 578 题请说明注意力机制中参数量的构成以及计算量的主要来源。 考察对注意力机制结构与计算复杂度的理解第 579 题请介绍一下 DETR 中位置编码的作用。 考察对 Transformer 位置编码原理及其在目标检测中应用的理解第 580 题请解释BERT模型的核心原理。 考察对预训练语言模型架构和训练方式的理解