蚂蚁集团面试题 · 性能优化 · vLLM
蚂蚁集团相关面试题,按最终去重题目聚合。
共 1880 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:性能优化 · vLLM
考察点
技术栈
第 1 题vLLM框架是怎么做推理加速的? 考察对vLLM核心推理加速机制的掌握程度第 2 题请说明你是否熟悉vLLM中的Paged Attention和KV Cache技术,并简要解释它们的作用与原理。 考察对大模型推理优化技术的理解深度与熟悉程度第 3 题KV-cache 如何帮助推理加速? 考察对 Transformer 推理机制和 KV-cache 原理的掌握第 4 题请介绍你对 vLLM 中 Paged Attention 和 KV Cache 等技术的理解。 考察对 LLM 推理优化技术的原理理解深度第 5 题在部署或优化推理服务时,你自己做过哪些具体的 KV-cache 或推理优化? 考察候选人实际工程优化能力和项目经验