我要招人

互联网/IT行业面试题更新 2026-08-05

DeepSpeed里面流水线并行是怎么优化复杂度的？

字节跳动人工智能互联网/IT性能优化技术原理方案权衡DeepSpeed

考察说明

考察对流水线并行调度策略与显存优化的理解

回答思路

  1. 解释流水线并行基本概念与切分方式
  2. 说明1F1B调度如何减少显存占用
  3. 提及bubble与通信开销的权衡
  4. 对比朴素流水线与改进方案的复杂度
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。

开始模拟面试登录查看答题指导