后端岗位面试题 · 编码实现 · tech:transformer
题库中标记为“后端”的结构化面试题。
共 89928 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选：编码实现 · tech:transformer
考察点
技术栈
第 1 题请解释Transformer的注意力机制的原理，并说明其在模型中的作用。 考察对Transformer核心机制的理解深度及表达能力第 2 题请手绘并讲解 Transformer 的整体架构，说明 Encoder 和 Decoder 各模块的作用及数据流向。 考察对 Transformer 架构模块、数据流与设计动机的理解第 3 题GPT底层具体是如何实现的？请从模型架构和训练角度讲一讲。 考察对GPT内部机制和工程实现的深入理解第 4 题请解释自注意力机制的计算流程，以及查询、键、值的含义。 考察对自注意力机制原理的掌握第 5 题请说明BERT预训练的代码实现方式。 考察对BERT预训练原理及代码实现的掌握程度