京东面试题更新 2026-08-05

请设计一个基于Transformer的自回归模型,用前三个token(记作abc)预测第四个token。请写出伪代码,并说明特征维度、注意力头数等关键超参数如何选择。

京东人工智能电商编码实现问题拆解技术原理Transformer

考察说明

考察Transformer自回归建模、伪代码表达能力与超参数设计

回答思路

  1. 能写出包含输入嵌入、位置编码、多层自注意力与前馈网络的完整伪代码
  2. 能合理说明特征维度、注意力头数、层数等参数的选择依据
  3. 能正确实现自回归的掩码注意力或逐步生成逻辑
  4. 能解释输出概率分布的计算方式与损失函数