后端岗位面试题 · tech:transformer
题库中标记为“后端”的结构化面试题。
共 89928 道真题 · 当前筛选命中 93 道 · 更新 2026-08-05
筛选题目已选：tech:transformer
考察点
技术栈
第 1 题请说明Transformer模型的计算复杂度如何随序列长度变化，并解释其含义。 考察对Transformer自注意力机制计算复杂度的理解及其对长序列处理的瓶颈分析第 2 题请介绍 Transformer 的底层结构，并说明各主要模块的作用。 考察对 Transformer 整体架构及核心组件的理解第 3 题Transformer的自注意力机制是如何实现的？请说明Q、K、V的计算方式以及相关参数的初始化方法。 考察对Transformer自注意力机制的理解深度，包括QKV计算流程和初始化细节第 4 题CNN和Transformer有什么区别？ 考察对两类主流神经网络架构在原理、适用场景和差异上的理解第 5 题请解释Transformer的注意力机制的原理，并说明其在模型中的作用。 考察对Transformer核心机制的理解深度及表达能力第 6 题讲讲Transformer的原理。 考察对Transformer架构核心组件及其工作原理的理解第 7 题请解释注意力机制的核心思想及常见实现方式。 考察对序列建模中依赖捕获与加权融合的理解第 8 题你了解大模型的基本原理吗？请简要介绍你熟悉的大模型架构和核心概念。 考察对大模型基础知识和核心概念的掌握程度第 9 题为什么近两年大模型突然火起来？ 考察对大模型技术演进和产业爆发原因的理解第 10 题Transformer相对于其他网络的优点和缺点是什么？ 考察对Transformer架构特性的全面理解与对比分析能力第 11 题请介绍对编码模型（如代码生成模型）的了解，包括原理和优缺点。 考察对代码生成模型原理及局限的认知第 12 题大模型是如何记住词之间的关系的？ 考察对 Transformer 架构、自注意力机制和上下文建模的理解第 13 题请介绍Self-Attention机制的原理，以及它在大模型中的作用。 考察对注意力机制核心原理及其对模型能力贡献的理解第 14 题DETR里面的transformer结构的encoder和decoder是如何的?介绍一下? 考察对DETR中Transformer编码器与解码器架构细节的理解第 15 题请介绍Vision Transformer（ViT）的基本原理和主要流程。 考察对ViT模型结构与核心机制的理解第 16 题请写出 self-attention 的计算公式，并解释各部分的含义。 考察对 Transformer 核心 self-attention 机制的数学表达与理解第 17 题请介绍你对 Transformer 架构的理解。 考察对 Transformer 架构核心组件和工作原理的掌握程度第 18 题你对大模型的基础原理（如 Transformer、预训练与微调）有哪些了解？ 考察对大模型核心概念的理解深度第 19 题BERT一层encoder的transformer block包含了哪些元素，或者说算子是如何forward的？ 考察对Transformer编码器内部结构和前向计算流程的掌握程度第 20 题挑选一个你最喜爱的大语言模型，讲解其预训练过程与模型架构。 考察对大模型预训练流程与架构设计的理解深度