人工智能面试题 · 技术选型 · DeepSpeed
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 30 道 · 更新 2026-08-05
筛选题目已选：技术选型 · DeepSpeed
考察点
技术栈
第 1 题在大模型微调过程中，你通常使用哪些框架？请结合你的实际项目说明选择理由。 考察对大模型微调常用工具链的掌握及选型逻辑第 2 题请谈谈你对Deepspeed和Megatron框架的理解，包括各自的核心功能和适用场景。 考察对大模型训练框架的深入理解与对比能力第 3 题你使用过 DeepSpeed 吗？请介绍一下它的核心功能和典型应用场景。 考察对分布式训练框架 DeepSpeed 的掌握程度和实践经验第 4 题你了解 DeepSpeed 吗？它主要解决什么问题？ 考察对 DeepSpeed 的认知及其在大模型训练中的定位第 5 题在多机多卡训练中你会使用 DeepSpeed 吗？请谈谈你对 DeepSpeed 的了解。 考察对大模型分布式训练框架的原理理解和实际应用能力第 6 题你了解哪些用于大型语言模型训练或推理的分布式框架？请列举并说明各自适用的场景。 考察对LLM分布式框架的广度认知与场景匹配能力第 7 题请介绍训练pipeline，并说明DeepSpeed ZeRO 1/2/3的原理，你们用了哪个，为什么用这个？ 考察对分布式训练内存优化机制的理解、选型依据与工程实践第 8 题你提到用DeepSpeed做SFT训练,请讲一下DeepSpeed ZeRO Stage 1-3的区别,以及什么时候用FSDP(Fully Sharded Data Parallel)会更好? 考察对分布式训练显存优化技术、原理区别与选型判断第 9 题介绍一下DeepSpeed的关键配置参数及其含义。 考察对DeepSpeed配置体系的理解及分布式训练实践深度第 10 题以DeepSpeed为例，它的核心优势是什么？在什么场景下你会优先选择它？ 考察对DeepSpeed核心机制的理解和实际选型判断第 11 题请介绍你对 DeepSpeed 的理解，包括其核心功能和典型应用场景。 考察对分布式训练优化框架的了解程度第 12 题DeepSpeed的ZeRO优化器在不同阶段（Stage 1、2、3）分别能节省哪些显存？各阶段的主要区别是什么？ 考察对分布式训练显存优化原理的理解第 13 题请结合 DeepSpeed 的三个 ZeRO 阶段，详细介绍其工作原理、内存优化方式及各自的适用场景。 考察对 DeepSpeed ZeRO 各阶段内存优化机制的理解与场景判断能力第 14 题请比较 DeepSpeed 和 Megatron 在大模型训练中的技术特点与应用场景。 考察对主流大模型训练框架的核心技术与适用场景的理解第 15 题请说明DeepSpeed ZeRO Stage 1、2、3之间的区别，以及在何种场景下更适合使用PyTorch FSDP。 考察对分布式训练显存优化技术的理解与选型能力第 16 题你了解深度学习加速推理框架 DeepSpeed 吗？请介绍它的核心功能和适用场景。 考察对 DeepSpeed 推理优化能力的理解和应用认知第 17 题并行框架：你对 DeepSpeed 这一加速推理与训练框架有多少了解？ 考察对 DeepSpeed 训练与推理加速能力的理解深度第 18 题你了解哪些大模型加速框架？请简要说明其原理以及如何进行加速优化。 考察对大模型加速框架的熟悉程度、原理理解和优化方法掌握第 19 题请分别说明LoRA和DeepSpeed的优缺点，以及在什么场景下适合使用它们？ 考察对模型微调与分布式训练工具的对比分析能力第 20 题请详细介绍 DeepSpeed 这一深度学习优化库。 考察对 DeepSpeed 架构、核心功能与应用场景的理解深度