我要招人

互联网/IT行业面试题更新 2026-08-05

实习时你微调过Qwen2，请说说Qwen2的模型结构，以及相比Qwen1做了哪些改进？

字节跳动人工智能互联网/IT问题拆解技术原理Transformer

考察说明

考察对大语言模型结构演进的理解和对比分析能力

回答思路

  1. 准确描述Qwen2的模型架构（Transformer、GQA、SwishGLU等）
  2. 列举Qwen2相对Qwen1的关键结构改进
  3. 说明参数量、层数、上下文长度等配置变化
  4. 能联系实际微调经验说明改进带来的影响