小红书面试题 · Transformer
小红书相关面试题，按最终去重题目聚合。
共 2200 道真题 · 当前筛选命中 28 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 21 题Transformer中注意力机制为什么要把点积结果除以根号dk？ 考察对Scaled Dot-Product Attention中缩放因子作用的理解第 22 题介绍几种Attention技术的不同 考察对多种Attention变体的理解与区分能力第 23 题softmax缩放因子为什么是根号d而不是其他数？ 考察对缩放因子推导逻辑和边界条件理解第 24 题Transformer编码器中前馈网络（FFN）的作用是什么？ 考察对FFN在Transformer中功能的理解与解释第 25 题请解释Transformer模型的核心结构和关键技术点。 考察对Transformer架构及其关键机制的理解深度第 26 题多头和单头的区别在哪里？ 考察对多头注意力机制与单头注意力机制的理解和对比能力第 27 题请解释 Self-Attention、Cross-Attention 和 GQA（Grouped Query Attention）在 Transformer 中的作用与区别。 考察对 Transformer 注意力机制变体及原理的理解第 28 题Q、K、V的含义是什么？ 考察对Transformer核心概念的理解和表达能力