Prefix LM与Causal LM区别?
考察说明
考察对两种语言模型架构及其训练目标差异的理解
回答思路
- 准确定义Prefix LM的双向注意力机制与Causal LM的自回归单向注意力
- 说明两者在训练方式（前缀双向编码+后续单向生成 vs 全程从左到右自回归）上的根本不同
- 能举例说明适用场景，如Prefix LM用于生成编辑、文本填充，Causal LM用于标准文本生成
- 提及参数与计算开销的差异，以及在实际模型（如GLM、T5 vs GPT）中的体现
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。