人工智能面试题 · 技术原理 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 794 道 · 更新 2026-08-05
筛选题目已选：技术原理 · Transformer
考察点
技术栈
第 721 题请介绍一下Transformer架构及其核心组成。 考察对Transformer架构核心机制的理解程度第 722 题为什么Transformer中的FFN层通常采用先升维再降维的结构？ 考察对FFN层维度设计原理的掌握第 723 题能否解释Transformer使用多头注意力机制的动机？ 考察对多头注意力作用、动机及权衡的理解第 724 题Transformer的Encoder-Decoder过程展开讲，Encoder怎么实现？ 考察对Transformer架构中编码器内部机制的理解第 725 题Encoder与Decoder中注意力机制存在哪些差异？ 考察对Transformer编码器和解码器注意力机制结构及功能差异的理解第 726 题请介绍几种常见的 Attention 加速方式及其原理。 考察对 Transformer 注意力机制的计算效率和优化方法的理解第 727 题请比较LSTM、Transformer和BERT这三种模型的异同，并谈谈各自的优缺点，以及它们对NLP发展的影响。 考察对主流NLP模型的结构理解、优缺点分析和NLP发展趋势的把握第 728 题Transformer现有架构在什么情况下，哪个模块会导致用户意图判别不准？ 考察对Transformer各模块原理及意图判别失败场景的理解第 729 题Transformer 相比 RNN 有哪些核心优势？请结合机制说明。 考察对 Transformer 与 RNN 架构差异及优势的理解第 730 题请比较Swin Transformer与ViT在架构上的主要区别，并解释Swin Transformer如何通过窗口化实现线性复杂度同时获得全局注意力。 考察对窗口注意力、移位窗口机制和复杂度权衡的理解第 731 题请解释 Transformer 中 self-attention 的计算公式及各部分的意义，并说明为什么要除以缩放因子。 考察对 self-attention 数学原理和设计动机的理解第 732 题Attention计算中为什么要除以缩放因子？ 考察对Transformer中Attention缩放机制原理的理解第 733 题如何节省 Transformer Block 的计算量？ 考察对 Transformer 结构各组件计算开销来源及常见优化策略的掌握第 734 题在计算attention score时如何对padding做mask操作？ 考察Transformer中padding mask的原理与实现细节第 735 题目前大模型架构有哪些？ 考察对大模型主流架构类型的掌握与分类能力第 736 题请解释主流大语言模型与传统Transformer模型在架构、训练目标和应用方式上的主要区别？ 考察对Transformer基座与大模型技术演进的系统理解第 737 题注意力机制的类型(MHA,MQA,GQA,MLA)各自的优缺点 考察对注意力机制变体的原理理解与权衡分析能力第 738 题请解释Grouped-Query Attention（GQA）的原理及其实现方式。 考察对GQA机制原理和高效实现的理解第 739 题在Transformer架构中，Self Attention和Cross Attention分别出现在什么位置，各自的作用是什么？ 考察对Transformer各模块中注意力机制角色定位的理解第 740 题Transformer 中为何使用 LayerNorm 而非 BatchNorm？这对大模型训练的稳定性有何影响？ 考察对归一化机制差异及其对训练稳定性的影响的理解