阿里巴巴面试题更新 2026-08-05
DeepSpeed ZeRO-1/2/3之间有什么区别？请说明各阶段对显存占用的影响。
阿里巴巴人工智能电商系统设计技术原理方案权衡DeepSpeed
考察说明
考察对分布式训练优化技术ZeRO分阶段原理及显存收益的理解
回答思路
- 准确区分ZeRO-1/2/3的优化维度（优化器状态、梯度、参数）
- 说明各阶段显存节省机制与通信开销变化
- 能结合典型模型规模或案例说明显存占用情况
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
