文远知行面试题 · Transformer
文远知行相关面试题，按最终去重题目聚合。
共 327 道真题 · 当前筛选命中 9 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题讲解Transformer的Decoder结构，包括它包含几层Attention，以及Cross Attention在其中的位置和作用。 考察对Transformer Decoder内部结构、Attention层组成及跨注意力机制的理解第 2 题在视觉Transformer中，图像经过patch切分后，如何为每个patch添加位置编码？请说明常见实现方式及其设计考量。 考察对视觉Transformer位置编码原理与实现细节的理解第 3 题ViT怎么将注意力用于视觉？ 考察对Vision Transformer核心机制的理解及与CNN的差异第 4 题讲解Transformer的Encoder结构 考察对Transformer编码器组件、计算流程与设计动机的理解第 5 题请描述Transformer中计算完注意力（Attention）之后的处理流程，以及为什么需要这些步骤？ 考察对Transformer残差连接、LayerNorm和前馈网络的理解第 6 题请解释多头自注意力机制的原理，并分析其计算复杂度。 考察对Transformer核心机制的理解及复杂度分析能力第 7 题请介绍Transformer模型的基本结构，并对比它与传统RNN在处理长序列时的优势。 考察对Transformer架构组成及与RNN差异的理解第 8 题请详细说明Transformer中Cross Attention的结构、计算流程以及它与Self-Attention的区别。 考察对Transformer跨注意力机制原理和实现的理解第 9 题请手写实现 Multi-Head Attention，并说明其计算过程。 考察对注意力机制原理的理解和代码实现能力