人工智能面试题 · 性能优化 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 41 道 · 更新 2026-08-05
筛选题目已选：性能优化 · Transformer
考察点
技术栈
第 1 题在 Transformer 模型推理的 Attention 计算中，有哪些显存优化策略？请分别说明其思路和适用场景。 考察对大模型推理显存优化技术的理解深度与工程实践认知第 2 题在序列建模任务中，你会从哪些方面考虑效率优化？请结合具体技术手段说明。 考察对序列模型计算瓶颈的认识及工程优化能力第 3 题训练或推理 Transformer 模型时有哪些常用加速方式？ 考察对模型计算优化方法的广度与原理理解第 4 题请解释KV Cache在Transformer推理中的原理及其作用。 考察对Transformer推理优化中KV Cache机制的理解第 5 题什么是大语言模型的“上下文窗口”？扩展上下文窗口对模型性能有何影响？ 考察对大语言模型上下文窗口概念的理解及其扩展带来的性能权衡第 6 题注意力计算的计算复杂度是多少？ 考察对注意力机制计算复杂度的掌握及其扩展性边界第 7 题为什么 KV Cache 能极大地提升推理速度？ 考察对计算复杂度和推理性能优化原理的理解第 8 题请解释Transformer中注意力机制的计算复杂度，并说明为何它是O(n^2)，其中n为序列长度。 考察对Transformer注意力机制及其计算复杂度的理解第 9 题请说明KV Cache在推理时占用的内存量级，并计算它相比不缓存键值时降低了多少时间复杂度。 考察对KV Cache内存代价与计算复杂度收益的量化理解第 10 题MHA（多头注意力机制）的计算复杂度比较高，有哪些改进的方法？ 考察Transformer注意力机制的计算瓶颈分析与优化方案设计第 11 题请分析Self-Attention的时间复杂度，并与RNN进行对比。 考察时间复杂度分析与模型特性比较能力第 12 题Transformer 中使用 softmax 可能存在哪些问题？应该如何解决？ 考察 Transformer 注意力机制中 softmax 的数值稳定性、梯度与效率问题及解决思路第 13 题为什么KV Cache对长上下文推理尤其关键？ 考察对长上下文推理复杂度与缓存依赖的理解第 14 题如何优化Transformer中计算量最大的模块（自注意力）？ 考察对自注意力优化的多种方法及权衡的理解第 15 题解释KV Cache的内存瓶颈，并推导多头注意力机制的计算复杂度。 考察对Transformer推理阶段KV Cache内存占用及注意力计算复杂度的理解第 16 题如何为多头注意力模块添加正则化或增强策略以提升训练稳定性？ 考察模型训练的工程优化与设计能力第 17 题Transformer 模型有哪些常用的推理加速方法？ 考察对 Transformer 推理性能优化技术的理解和实践第 18 题在长序列时空数据中，如何降低 Transformer 的计算复杂度？ 考察对长序列场景下 Transformer 效率优化的理解第 19 题我们现在是两阶段推荐架构：第一阶段召回用的是 embedding 点积召回，第二阶段是 MLP 跟 transformer 做多目标打分。那你觉得在我们这么大规模的数据量下，如果要做 real-time re-ranking，你会在架构上怎么做 trade-off？怎么压低 latency？ 考察推荐系统实时重排架构的延迟与效果权衡能力第 20 题请介绍LLaMA模型的整体结构，并说明你在实际部署或训练时使用的模型规模及硬件配置。 考察对LLaMA架构的理解以及模型部署和训练的实际经验