阿里巴巴面试题更新 2026-08-05

讲讲DeepSeek中的MLA(Multi-head Latent Attention)。

阿里巴巴人工智能电商技术原理技术选型方案权衡

考察说明

考察对大模型注意力机制变体的理解深度与表达能力

回答思路

  1. 准确解释MLA的核心思想:对Key和Value进行低秩压缩以减少KV缓存
  2. 说明相比标准MHA在推理显存和吞吐上的优势
  3. 提及解耦的RoPE或旋转位置编码处理方式
  4. 能说明其与GQA等方法的区别或联系