请描述大模型推理（inference）过程中 prefill 和 decode 两个阶段各自的作用和特点。
考察说明
考察对大模型推理流程中 prefill 与 decode 阶段的理解
回答思路
- 明确区分 prefill 与 decode 的阶段顺序和任务
- 说明 prefill 阶段并行处理输入 token 并生成 KV cache
- 说明 decode 阶段逐个生成输出 token 并利用 KV cache
- 讨论两者在计算和内存访问上的差异
- 如有能力可提及 Phase 对推理延迟和吞吐的影响
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。