人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 441 题请解释Transformer中Attention机制中Q、K、V的含义及计算公式。 考察对Transformer核心机制的理解程度第 442 题为什么GPT采用单层（解码器）Transformer结构，而不是类似BERT的双向编码器？ 考察对GPT生成式架构设计逻辑的理解第 443 题在Transformer自注意力推理中引入KV-Cache有什么作用？它是如何帮助加速推理的？ 考察对KV-Cache机制及其推理加速原理的理解第 444 题请介绍Transformer的整体架构及其关键组件的作用。 考察对Transformer架构核心组件及原理的理解第 445 题请介绍 BERT 的网络结构及其两个预训练任务。 考察对 BERT 模型架构和预训练目标的理解第 446 题跨模态对齐如何做的，你都了解哪些对齐方式？ 考察对跨模态对齐概念、常见对齐方法与实际应用的理解第 447 题说一下Attention是怎么做的，Encoder和Decoder的Attention一样吗？ 考察对Attention机制原理及Encoder-Decoder中差异的理解第 448 题请谈谈你对Transformer模型的理解，以及它与CNN、LSTM的主要区别。 考察对Transformer架构核心机制的掌握及其与经典模型差异的理解第 449 题请介绍位置编码的原理与作用。 考察对序列建模中位置信息处理的理解第 450 题手写自注意力机制，并说明Q、K、V的线性变换矩阵能否共享权重？ 考察自注意力机制的编码实现与对QKV投影空间的理解第 451 题请手写正余弦位置编码的公式，并简要说明其设计思路。 考察对Transformer位置编码原理的掌握与推导能力第 452 题请讲解BERT的Attention机制 考察对Transformer核心机制及BERT中应用的理解深度第 453 题Transformer自注意力,计算过程,Softmax为什么要进行缩放,不缩放会导致什么? 考察对自注意力机制数学原理和数值稳定性的理解第 454 题Transformer的计算复杂度是多少？请解释其来源及优化思路。 考察对Transformer复杂度分析和优化方向的理解第 455 题Transformer注意力分数为何要做缩放（即为什么除以根号d）？ 考察对注意力机制数学动机和数值稳定性的理解第 456 题请介绍Transformer中的Attention机制，并解释为什么在计算中要除以sqrt(dk)。 考察对Transformer核心机制的原理理解与设计动机第 457 题请解释Transformer解码器中past_key_value（或KV cache）的作用及其对推理性能的影响。 考察对Transformer自回归解码中KV缓存机制的深入理解第 458 题请介绍Transformer的整体结构及每个核心组件的职责。 考察对Transformer架构各组件功能与数据流向的理解第 459 题Transformer中用的是BatchNorm还是LayerNorm？ 考察对Transformer内部归一化机制及不同归一化差异的理解第 460 题GPT和BERT的区别 考察对两大预训练模型架构与任务范式差异的理解