电商行业面试题 · 性能优化 · Transformer
电商行业相关面试题,按题目行业基础数据聚合。
共 10617 道真题 · 当前筛选命中 7 道 · 更新 2026-08-05
筛选题目已选:性能优化 · Transformer
考察点
技术栈
第 1 题什么是大语言模型的“上下文窗口”?扩展上下文窗口对模型性能有何影响? 考察对大语言模型上下文窗口概念的理解及其扩展带来的性能权衡第 2 题如何降低 KV cache 的内存占用? 考察对 Transformer 推理中 KV cache 优化技术的理解第 3 题如何节省 Transformer Block 的计算量? 考察对 Transformer 结构各组件计算开销来源及常见优化策略的掌握第 4 题多头注意力机制相比单头注意力在计算效率上是否有优势?请从矩阵计算角度说明。 考察对多头注意力计算结构的理解和效率分析能力第 5 题Transformer的时间复杂度是多少?请说明其来源及典型的优化手段。 考察对Transformer复杂度来源的理解及优化方案的掌握第 6 题如何为多头注意力模块添加正则化或增强策略以提升训练稳定性? 考察模型训练的工程优化与设计能力第 7 题解释KV Cache的内存瓶颈,并推导多头注意力机制的计算复杂度。 考察对Transformer推理阶段KV Cache内存占用及注意力计算复杂度的理解