人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 121 题请介绍Transformer的整体结构，包括其主要模块与各自的作用。 考察对Transformer架构的全面理解与组件职责的掌握第 122 题了解过之前的NLP技术吗？BERT是怎么样的，跟大模型相比的优势是什么？ 考察BERT技术理解及与LLM对比的认知深度第 123 题请解释Transformer中注意力机制的计算复杂度，并说明为何它是O(n^2)，其中n为序列长度。 考察对Transformer注意力机制及其计算复杂度的理解第 124 题Attention中为什么要除以根号dk？ 考察对注意力机制数学原理和数值稳定性的理解第 125 题请用代码实现Transformer中的原始sinusoidal位置编码。 考察对Transformer位置编码公式的理解及编码实现能力第 126 题请介绍Transformer的整体结构，并说明其中关键组件的作用。 考察对Transformer架构及其核心机制的理解第 127 题请列举主流大语言模型（LLM）的架构类型，并简要说明各自的特点。 考察对LLM架构演进的系统性了解第 128 题请详细介绍一下Transformer的整体结构及其核心组件的作用。 考察对Transformer架构各组成部分的理解及其设计动机第 129 题请深入讲解 Transformer 中位置编码的作用、常见实现方式及为何需要它。 考察对位置编码原理和动机的理解第 130 题在Transformer的训练和推理过程中，如何处理输入序列中的padding？请说明mask的作用及实现方式。 考察对Transformer中padding处理和注意力掩码机制的理解第 131 题请分别说明 Transformer 模型中 Layer Normalization 和 Dropout 的作用及原理。 考察对 Transformer 核心组件原理的理解第 132 题计算attention时为什么要除以根号dk，还有哪些scale处理？ 考察对Transformer中注意力机制缩放因子的原理理解及变体知识第 133 题请比较CNN和Transformer在图像任务中的主要区别，并说明各自适用的场景。 考察对两种主流模型架构核心差异的理解及场景选择能力第 134 题图像数据通常如何处理位置编码？ 考察对图像任务中位置信息建模的理解第 135 题UniAD的实现原理是什么？如何实现上层信息的聚合和传递？ 考察对UniAD框架中多任务特征聚合与信息流动机制的理解第 136 题请介绍 Transformer 模型的核心结构与工作原理，并说明其关键机制。 考察对 Transformer 架构、自注意力机制及其在序列建模中优势的理解第 137 题在视觉Transformer中，图像经过patch切分后，如何为每个patch添加位置编码？请说明常见实现方式及其设计考量。 考察对视觉Transformer位置编码原理与实现细节的理解第 138 题介绍一下Transformer架构 考察对Transformer核心组件、工作原理和设计动机的理解第 139 题在Transformer框架下，CV、NLP、语音是否可能统一？ 考察对Transformer跨模态统一潜力的理解和分析能力第 140 题请简要介绍BERT模型的基本原理和主要结构。 考察对预训练语言模型核心概念的理解