请设计一个基于Transformer的自回归模型,用前三个token(记作abc)预测第四个token。请写出伪代码,并说明特征维度、注意力头数等关键超参数如何选择。
考察说明
考察Transformer自回归建模、伪代码表达能力与超参数设计
回答思路
- 能写出包含输入嵌入、位置编码、多层自注意力与前馈网络的完整伪代码
- 能合理说明特征维度、注意力头数、层数等参数的选择依据
- 能正确实现自回归的掩码注意力或逐步生成逻辑
- 能解释输出概率分布的计算方式与损失函数
考察Transformer自回归建模、伪代码表达能力与超参数设计