新浪&微博面试题 · Transformer
新浪&微博相关面试题，按最终去重题目聚合。
共 295 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题请深入讲解 Transformer 中位置编码的作用、常见实现方式及为何需要它。 考察对位置编码原理和动机的理解第 2 题请完整描述CLIP模型的原理、架构、工作过程、对齐方式，以及基于CLIP实现图像字幕生成（image captioning）的方式。 考察对多模态预训练模型CLIP的深层理解及迁移应用能力第 3 题请解释 Transformer 中残差连接和层归一化（LayerNorm）的作用，以及在训练中的重要性。 考察对网络稳定性和训练优化的理解第 4 题请详细说明 Transformer 中多头注意力（MHA）的计算过程及其作用。 考察对多头注意力机制内部机制的深入理解第 5 题请描述 Transformer 处理输入文本序列的完整流程，包括 tokenize、位置编码、多头注意力、前馈网络、损失函数和输出转换。 考察对 Transformer 完整前向与训练流程的掌握程度