人工智能面试题 · 编码实现 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 54 道 · 更新 2026-08-05
筛选题目已选：编码实现 · Transformer
考察点
技术栈
第 41 题请手写或描述 Transformer 的核心组件实现，并说明其工作原理。 考察对 Transformer 架构关键组件（自注意力、多头、位置编码、FFN）的理解与实现能力第 42 题请说明在 Transformer 训练中，Q、K、V 矩阵计算如何做并行化，并写出伪代码。 考察对 Transformer 注意力机制并行计算原理的理解与表达能力第 43 题请手写实现Transformer Decoder层，并说明如何实现mask机制以支持自回归生成。 考察对Transformer Decoder结构、自注意力mask和因果掩码的实现能力第 44 题请介绍LLM的Decoder-Only架构，并说明其关键组成部分。 考察对Decoder-Only架构的基本原理、结构组成及核心概念的理解第 45 题序列的MHA是怎么做的？ 考察对多头注意力机制在序列建模中原理与实现细节的理解第 46 题请解释Transformer的核心原理，包括自注意力机制和位置编码的作用。 考察对Transformer架构核心机制的理解第 47 题请手写Transformer模型的核心代码，并解释为什么注意力机制中要除以根号d。 考察Transformer架构的实现能力与注意力机制缩放因子的数学原理第 48 题详细描述，如果给一个txt存储的文本，从预处理到SFT的训练流程，要包括对数据的预处理、tokenize、forward、loss计算、参数更新，越细越好。 考察大模型SFT全流程的技术细节与工程实现能力第 49 题请手写一个Transformer的Decoder Block核心实现。 考察对Transformer解码器结构、核心算子和实现细节的掌握第 50 题在计算attention score时如何对padding做mask操作？ 考察Transformer中padding mask的原理与实现细节第 51 题请手写实现一个Transformer的核心模块，并说明各部分的作用。 考察对Transformer架构的深入理解和编码实现能力第 52 题Transformer的结构是什么？ 考察对Transformer核心组件的理解和整体架构的把握第 53 题请手写Transformer的核心结构，并解释各模块的作用。 考察对Transformer架构细节的理解和编码实现能力第 54 题请手写实现 Multi-Head Attention，并说明其计算过程。 考察对注意力机制原理的理解和代码实现能力