AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
人工智能面试题
请解释GQA(分组查询注意力)和MLA(多头潜在…
人工智能面试题
更新 2026-08-05
请解释GQA(分组查询注意力)和MLA(多头潜在注意力)等注意力机制的结构及其在LLM中的作用。
深圳虾皮信息科技有限公司
人工智能
互联网/IT
技术原理
方案权衡
LLM
考察说明
考察对前沿注意力机制原理的理解及在LLM中的应用
回答思路
清晰说明GQA如何分组共享KV,减少KV缓存并提升推理效率
清晰说明MLA如何通过低秩潜在向量压缩KV,进一步减少缓存
对比MHA、GQA、MLA的差异与适用场景
说明这些结构对推理速度、显存占用和模型质量的影响
换一题
上一题
请介绍一个你最满意的项目,包括项目背景、你的职责、技术方案和最终成果。
下一题
右值引用变量本身是左值还是右值?请说明原因。
本题还出现在
互联网/IT行业面试题
深圳虾皮信息科技有限公司面试题