小鹏汽车面试题 · Transformer
小鹏汽车相关面试题，按最终去重题目聚合。
共 1238 道真题 · 当前筛选命中 10 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题注意力公式中为什么要除以根号d？ 考察对自注意力机制缩放因子原理的理解第 2 题请谈谈你对当前主流自动驾驶技术路线和关键挑战的理解，并结合你对汽车行业的观察说明。 考察对自动驾驶技术原理、行业现状及关键挑战的理解深度第 3 题讲讲Transformer的架构 考察对Transformer整体架构及核心组件的理解第 4 题除标准多头注意力（MHA）之外，你还了解哪些注意力机制的变体，比如GQA、MQA？它们各自解决了什么问题，分别适用于什么场景？ 考察对注意力机制演进脉络的理解及对计算与效果权衡的把握第 5 题为什么大语言模型（如GPT）擅长文本处理与生成？ 考察对Transformer架构、预训练与自回归生成机制的理解第 6 题在Transformer的注意力机制中，为什么要将点积结果除以根号d（d为键向量的维度）？ 考察对注意力机制缩放因子设计的理解及数学直觉第 7 题为什么ResNet没有像Transformer那样不断堆参数规模？ 考察对模型架构演进、深度学习趋势及两者差异的理解第 8 题Transformer的流程,和CNN的区别 考察对Transformer架构流程的理解及与CNN的对比第 9 题讲讲BERT和GPT的区别 考察对两类主流预训练语言模型架构与训练目标的理解第 10 题请介绍一下Transformer架构及其核心组成。 考察对Transformer架构核心机制的理解程度