后端岗位面试题更新 2026-08-05
TP和DP应用在哪个权重计算的位置,并且两者是如何进行协同的?
北京智谱华章科技后端开发互联网/IT系统设计技术原理方案权衡
考察说明
考察模型并行策略中张量并行与数据并行的角色定位及协同机制
回答思路
- 识别TP作用于单层权重切分、计算与通信
- 识别DP作用于样本维度切分、梯度聚合
- 说明两者结合时的混合并行架构
- 说明通信拓扑与网络开销权衡
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
