人工智能面试题 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 804 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 401 题介绍一下 Transformer 的整体架构和核心组件。 考察对 Transformer 架构的理解与表达清晰度第 402 题请介绍你了解到的Transformer模型的核心结构和工作原理。 考察对Transformer架构及其关键机制的理解深度第 403 题请解释多头注意力机制（MHA）的基本原理和工作流程。 考察对Transformer核心组件多头注意力的理解第 404 题你对Transformer注意力机制的复杂度有怎样的理解？如果将其应用到大规模训练中，训练时间会受到哪些因素的影响？ 考察对注意力机制时间与空间复杂度的理解，以及对训练时间影响因素的分析能力第 405 题请从结构角度对比大模型（Transformer）与BERT的主要改进点。 考察对Transformer衍生模型结构演变的掌握第 406 题Transformer的原理能大概说一下吗？ 考察对Transformer核心结构和机制的理解深度第 407 题请解释Transformer中多头注意力机制的「多头」具体指什么，以及它解决了什么问题。 考察对多头注意力机制设计动机与作用的深入理解第 408 题为什么大语言模型（如GPT）擅长文本处理与生成？ 考察对Transformer架构、预训练与自回归生成机制的理解第 409 题请介绍你对Transformer模型的理解，包括其核心机制和适用场景。 考察对Transformer架构核心组件、原理及应用的掌握程度第 410 题LLaMA中的Transformer与普通Transformer相比有哪些改进？ 考察对LLaMA模型架构改进的深入理解与对比能力第 411 题请解释一下 BERT 的模型结构和原理。 考察对 BERT 架构、预训练任务和关键机制的理解深度第 412 题请介绍你了解的多模态大模型，并说明这类模型在架构上通常采用哪些做法来实现视觉与文本的联合建模。 考察候选人对多模态大模型发展趋势与主流技术路线的认知第 413 题请计算给定Transformer模型在一次前向推理中的FLOPs和内存开销。 考察对模型计算复杂度和显存占用的量化分析能力第 414 题目前大模型模型结构都有哪些？ 考察对大模型主流网络结构的理解和分类能力第 415 题多头自注意力机制的作用是什么？ 考察对多头注意力动机和应用价值的理解第 416 题介绍Transformer架构的整体特点。 考察对Transformer核心设计及其优势的系统性理解第 417 题介绍SwiGLU激活函数及其在Transformer中的应用。 考察对SwiGLU激活函数的原理、优势及在Transformer架构中应用的理解第 418 题请描述 Transformer 处理输入文本序列的完整流程，包括 tokenize、位置编码、多头注意力、前馈网络、损失函数和输出转换。 考察对 Transformer 完整前向与训练流程的掌握程度第 419 题我们现在是两阶段推荐架构：第一阶段召回用的是 embedding 点积召回，第二阶段是 MLP 跟 transformer 做多目标打分。那你觉得在我们这么大规模的数据量下，如果要做 real-time re-ranking，你会在架构上怎么做 trade-off？怎么压低 latency？ 考察推荐系统实时重排架构的延迟与效果权衡能力第 420 题请介绍LLaMA模型的整体结构，并说明你在实际部署或训练时使用的模型规模及硬件配置。 考察对LLaMA架构的理解以及模型部署和训练的实际经验