人工智能面试题 · 方案权衡 · PyTorch
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 46 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · PyTorch
考察点
技术栈
第 1 题在大模型微调过程中，你通常使用哪些框架？请结合你的实际项目说明选择理由。 考察对大模型微调常用工具链的掌握及选型逻辑第 2 题DDP和DP的区别 考察对深度学习中数据并行与模型并行训练策略的理解第 3 题影响大语言模型训练和推理显存占用的关键因素有哪些？请从训练和推理两个场景分别说明。 考察对显存占用核心因素的全面理解与对比能力第 4 题分布式训练中有哪些并行策略？ 考察对分布式训练并行维度的理解与选型能力第 5 题请基于RankMixer架构，实现mixup数据增强和AFFN前馈网络的核心逻辑，并说明它们在模型中的作用。 考察对RankMixer架构中mixup与AFFN的实现理解和设计意图第 6 题请比较分布式训练中 DP 与 DDP 的区别。 考察对分布式训练并行策略的理解，包括通信、同步与适用场景第 7 题请结合热力图目标检测的监督信号，说明如何实现 Focal Loss，并解释它对正负样本不平衡的缓解原理。 考察 Focal Loss 在热力图检测中的实现要点与失衡处理能力第 8 题请介绍模型量化中 QAT（量化感知训练）的一般流程和基本原理。 考察对量化感知训练原理和流程的理解第 9 题嵌入层(Embedding Layer) 和 输出层(Output Layer) 是参数共享的吗? 考察对神经网络模型嵌入层与输出层参数共享机制的理解第 10 题请介绍 Qwen 2.5 VL 的图片输入处理与 Loss 设计细节。 考察对多模态模型图像编码、输入拼接与训练目标的深入理解第 11 题怎么阻止某些参数梯度回传？ 考察对深度学习梯度流控制机制的理解第 12 题训练一个 7B 参数规模的模型大约需要多少显存？不同 DeepSpeed ZeRO 阶段分别能节省多少显存？ 考察对大模型训练显存开销构成及 ZeRO 优化策略的理解第 13 题请介绍几种常用的模型剪枝方法，并说明各自的原理和适用场景。 考察对模型剪枝技术的理解深度、方法对比与适用性判断第 14 题请比较TensorFlow和PyTorch在模型开发、调试和部署方面的主要差异。 考察深度学习框架选型与实际使用经验第 15 题显存不够时，一般怎么解决，有哪些常见的优化方法？ 考察对深度学习训练显存优化的常见策略和工程实践能力第 16 题你了解哪些大模型训练和推理优化的方法？ 考察对模型训练与推理阶段常见优化手段的理解广度与深度第 17 题请介绍模型量化算法的基本原理、常见的量化方法（如 PTQ 和 QAT）以及改进方向。 考察对模型量化核心概念、PTQ 与 QAT 差异及演进方向的系统性理解第 18 题DeepSpeed的ZeRO优化器在不同阶段（Stage 1、2、3）分别能节省哪些显存？各阶段的主要区别是什么？ 考察对分布式训练显存优化原理的理解第 19 题模型训练并行方式有哪些？ 考察对分布式训练并行策略的理解与适用场景第 20 题LN和BN的区别 考察对BatchNorm与LayerNorm原理、适用场景及差异的理解