人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 461 题Attention有什么缺点？ 考察对注意力机制局限性的认识与权衡分析第 462 题Transformer中自注意力公式除以根号d的作用是什么？是缓解梯度爆炸还是梯度消失？ 理解注意力缩放因子的数学目的及其对梯度的影响第 463 题请介绍 Attention 机制的主要类型及其应用场景。 考察对 Attention 机制分类及各类别特性的理解深度第 464 题请简述BERT的架构、输入表示、训练流程和位置编码方式。 考察对BERT模型核心组件的理解与系统性表达第 465 题请介绍 Vision Transformer（ViT）的基本原理。假设有两位听众：一位完全不了解机器学习，另一位有基础的机器学习背景。请分别为他们各做一次讲解。 考察对 ViT 核心机制的清晰理解、知识表达和面向不同受众的讲解能力第 466 题自注意力的时间复杂度是多少？请解释其计算过程。 考察对Transformer自注意力机制计算复杂度的理解第 467 题介绍Multi-Head Attention，为什么要用多头的注意力机制？ 考察对Transformer核心组件原理及设计动机的理解第 468 题请介绍BEVFormer的核心设计思路和关键细节。 考察对BEVFormer结构、跨模态融合与Transformer机制的深入理解第 469 题请解释 Transformer 中的自注意力机制，并说明其计算流程与优势。 考察对自注意力机制原理、计算细节和优势的理解第 470 题在Transformer架构中，encoder和decoder哪个更重计算、哪个更重缓存？两者有什么区别？ 考察对Transformer编码器与解码器计算特性和缓存机制差异的理解第 471 题讲解Transformer的Encoder结构 考察对Transformer编码器组件、计算流程与设计动机的理解第 472 题LSTM与Transformer的区别，以及后者的优势是什么？ 考察对序列建模架构演进的原理理解与优势分析能力第 473 题Transformer和RNN在对话任务中的本质区别？为什么现在大模型都用Transformer？ 考察对序列建模核心机制的理解及架构选型原因第 474 题目前主流大模型的Transformer Block内的结构讲一下，哪些是可学习参数？ 考察对Transformer Block结构组成及可学习参数的掌握第 475 题Transformer 中 Decoder 与 Encoder 的主要区别是什么？ 考察对 Encoder 与 Decoder 结构及作用差异的理解第 476 题请介绍Transformer的整体架构及其内部核心构成。 考察对Transformer架构组成及各模块作用的理解深度第 477 题具体讲解Transformer中前馈层的设计 考察对Transformer前馈网络的结构、作用及与注意力机制配合的理解第 478 题请编写一个多头注意力机制的代码实现。 考察对注意力机制原理的理解及编程实现能力第 479 题请谈谈Transformer是如何实现并行化计算的。在计算注意力得分时，为什么通常要对点积结果进行缩放（即除以根号dk）？ 考察Transformer并行计算原理及注意力机制中缩放因子的数学动机第 480 题请实现一个多头自注意力机制（Multi-Head Self-Attention）。 考察对Transformer核心组件的理解及编码实现能力