人工智能面试题 · 问题拆解 · DeepSpeed
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 8 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · DeepSpeed
考察点
技术栈
第 1 题请简要介绍 DeepSpeed 及其主要功能。 考察对分布式训练框架 DeepSpeed 的理解和表述能力第 2 题用 DeepSpeed ZeRO-3 微调 Qwen2-72B，每张卡占用显存大概是多少？请估算并解释为什么占这么多显存。 考察对 ZeRO-3 显存优化原理的理解和实际估算能力第 3 题训练一个 7B 参数规模的模型大约需要多少显存？不同 DeepSpeed ZeRO 阶段分别能节省多少显存？ 考察对大模型训练显存开销构成及 ZeRO 优化策略的理解第 4 题使用DeepSpeed ZeRO-3微调Qwen2-72B时，每张GPU卡占用显存大约多少？请给出估算思路和关键决定因素。 考察大模型微调显存估算能力和对ZeRO-3机制的理解第 5 题估算使用DeepSpeed ZeRO-3微调Qwen2-72B时单卡显存占用量并说明原因 考察大模型分布式训练显存分析能力，以及ZeRO-3的内存优化原理第 6 题如何估算大模型微调时的显存需求？请结合 DeepSpeed 的典型配置举例说明。 考察对大模型训练/微调显存构成的理解及工程估算能力第 7 题并行框架：你对 DeepSpeed 这一加速推理与训练框架有多少了解？ 考察对 DeepSpeed 训练与推理加速能力的理解深度第 8 题SFT（监督微调）怎么做？有没有用什么加速训练的方法？ 考察对大模型监督微调流程和训练加速技术的掌握