我要招人

小鹏汽车面试题更新 2026-08-05

请解释MLA（Multi-head Latent Attention）与MHA（Multi-Head Attention）的差别和各自的优势。

小鹏汽车人工智能消费品/零售技术原理方案权衡

考察说明

考察对注意力机制变体的理解深度和准确表述能力

回答思路

  1. 准确描述MHA的基本结构和计算方式
  2. 清晰说明MLA的核心机制（低秩分解、缓存优化）
  3. 对比两者在内存占用、推理速度、效果上的差异
  4. 能结合具体应用场景说明各自的适用性