探讨LLM是否适合生成embedding,分析encoder和decoder架构的适配性,以及Decoder-only架构的Qwen用作encoder的原因。
考察说明
考察对LLM架构差异、embedding生成原理及模型适配性的理解
回答思路
- 能区分编码器、解码器与双向注意力在表示学习上的差异
- 能解释Decoder-only模型生成embedding的可行性与局限
- 能结合Qwen实际说明Decoder-only用作encoder的技术原因
- 能讨论任务适配性与架构选择权衡
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。