京东面试题 · 问题拆解 · Transformer
京东相关面试题，按最终去重题目聚合。
共 2550 道真题 · 当前筛选命中 6 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · Transformer
考察点
技术栈
第 1 题请设计一个基于Transformer的自回归模型，用前三个token（记作abc）预测第四个token。请写出伪代码，并说明特征维度、注意力头数等关键超参数如何选择。 考察Transformer自回归建模、伪代码表达能力与超参数设计第 2 题当前主流大语言模型通常采用什么整体架构？请简要说明其主要组成和关键特性。 考察对主流大模型架构（Transformer）的整体认知第 3 题请分析Transformer架构的核心优势与局限性，并说明你关注过的其他序列建模架构及其与Transformer的对比。 考察对Transformer及替代架构的理解深度和比较分析能力第 4 题请介绍Transformer中常见的几种位置编码方式，并说明各自的优缺点。 考察对Transformer位置编码原理及演进的理解第 5 题Transformer为什么需要位置编码？ 考察对Transformer架构原理及序列位置信息处理的理解第 6 题Transformer的时间复杂度是多少？请说明其来源及典型的优化手段。 考察对Transformer复杂度来源的理解及优化方案的掌握