人工智能面试题 · 技术原理 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 794 道 · 更新 2026-08-05
筛选题目已选：技术原理 · Transformer
考察点
技术栈
第 781 题请分析Transformer前向推理时Attention模块的计算量与时间复杂度。 考察对Transformer中自注意力计算复杂度与推理阶段计算特性的理解第 782 题Transformer的位置编码中为什么将基底设为10000？ 考察对Transformer位置编码设计原理和参数选择的理解第 783 题Transformer 中编码器和解码器的注意力机制有什么区别？ 考察对 Transformer 多头注意力机制的类型、掩码与更新范围的理解第 784 题Transformer中Attention的计算公式是什么？ 考察注意力机制的基础计算流程第 785 题Transformer 的位置 embedding 怎么计算？ 考察对 Transformer 正弦位置编码原理和性质的理解第 786 题Mask Attention是怎么做的？ 考察对Transformer中Masked Attention机制的理解，包括实现原理和不同应用场景第 787 题在计算注意力分数时，为什么要除以根号 d_k？ 考察对注意力缩放原因的理解第 788 题请讲讲Transformer中的并行化，以及为什么注意力计算中要除以根号dk？ 考察对Transformer并行化原理和注意力机制缩放因子的理解第 789 题请介绍 Transformer 的核心结构和工作原理。 考察对 Transformer 架构核心组件及其作用的理解第 790 题Transformer的全局依赖是怎么做的 考察Transformer自注意力机制对全局依赖的建模原理第 791 题请解释循环神经网络（RNN）的核心思想，并阐述它的主要特性以及存在哪些不足。 考查对循环神经网络基础概念、工作机制和局限性的理解。第 792 题请说明在文本分类任务中，Word Embedding 的应用方式有哪些？ 考查对词向量表示及其在文本分类中应用的理解。第 793 题请从模型架构和训练方式的角度，概述 LLaMA（Large Language Model Meta AI）的核心设计思想，并说明它与传统 Transformer 模型的主要差异。 考查候选人对大语言模型基础架构和训练范式的理解程度，以及其对 LLaMA 系列模型特点的掌握情况。第 794 题从理论上看，LLaMA 模型对于输入句子的长度是否存在无上限的可能？请说明其根本限制因素。 考查对 Transformer 模型上下文长度限制根源的理解，以及位置编码的作用。