人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 141 题在Transformer的多头注意力中，为什么点积结果要除以sqrt(dk)？ 考察对注意力缩放原理的理解第 142 题请说明KV Cache在推理时占用的内存量级，并计算它相比不缓存键值时降低了多少时间复杂度。 考察对KV Cache内存代价与计算复杂度收益的量化理解第 143 题为什么Transformer使用位置编码(Positional Encoding)? 考察自注意力机制无序列顺序内在表示的理解及位置编码的作用第 144 题有没有与基于Transformer的方法，如SegFormer、SegNeXt做过对比？ 考察对方法对比实验的设计能力与结果解读深度第 145 题讲讲Transformer的架构 考察对Transformer整体架构及核心组件的理解第 146 题Transformer的decoder是怎么防止信息泄露的呢？ 考察对Transformer解码器自注意力掩码机制的理解第 147 题Transformer中的Q、K、V分别来自哪里？各自代表什么含义？ 考察对Transformer自注意力机制中查询、键、值向量来源与作用的原理理解第 148 题为什么Transformer的注意力计算要除以根号dk？ 考察对注意力缩放原因的理解及数值稳定性知识第 149 题请说明 Self-Attention 的计算过程，并分析其优缺点。 考察对 Transformer 核心机制的理解以及权衡分析能力第 150 题请说明 Transformer 模型参数量主要受哪些因素影响，并给出一个典型的估算公式。 考察对 Transformer 模型结构参数的理解和估算能力第 151 题对 BERT 有了解吗？ 考察对 BERT 模型结构、训练目标及应用场景的理解深度第 152 题请说明Transformer模型中LayerNorm的作用与优势，以及它与残差连接、前馈网络之间的关系。 考察对Transformer核心组件原理的理解及组件间逻辑关联第 153 题旋转位置编码相比于传统正余弦位置编码的主要区别是什么？ 考察对两类位置编码机制差异的理解第 154 题解释Transformer中除以根号$dk$的原因 考察对注意力机制数值稳定性和尺度问题的理解第 155 题请画出并解释Transformer的整体结构，说明其数据从输入到输出的工作流程，并列举其中关键组件的作用。 考察对Transformer架构的完整理解，包括结构、流程和各组件功能第 156 题请描述大模型从数据准备到模型部署的完整训练流程，并说明各阶段的关键步骤。 考察对大模型训练全流程的理解与关键环节的把握第 157 题请介绍 Self-Attention 的机制，并分析其时间复杂度。 考察 Transformer 核心机制的理解与复杂度分析能力第 158 题请描述 Llama 模型的整体架构，并说明其与早期 GPT 架构的主要区别。 考察对主流开源大模型架构的理解与细节掌握第 159 题Transformer的编码器和解码器的处理过程以及它们的区别是什么？ 考察对Transformer架构核心组件处理流程及其差异的理解第 160 题请完整描述CLIP模型的原理、架构、工作过程、对齐方式，以及基于CLIP实现图像字幕生成（image captioning）的方式。 考察对多模态预训练模型CLIP的深层理解及迁移应用能力