后端岗位面试题 · 问题拆解 · tech:transformer
题库中标记为“后端”的结构化面试题。
共 89928 道真题 · 当前筛选命中 16 道 · 更新 2026-08-05
筛选题目已选：问题拆解 · tech:transformer
考察点
技术栈
第 1 题Transformer的自注意力机制是如何实现的？请说明Q、K、V的计算方式以及相关参数的初始化方法。 考察对Transformer自注意力机制的理解深度，包括QKV计算流程和初始化细节第 2 题请解释注意力机制的核心思想及常见实现方式。 考察对序列建模中依赖捕获与加权融合的理解第 3 题大模型是如何记住词之间的关系的？ 考察对 Transformer 架构、自注意力机制和上下文建模的理解第 4 题请介绍Self-Attention机制的原理，以及它在大模型中的作用。 考察对注意力机制核心原理及其对模型能力贡献的理解第 5 题BERT一层encoder的transformer block包含了哪些元素，或者说算子是如何forward的？ 考察对Transformer编码器内部结构和前向计算流程的掌握程度第 6 题请解释GMP模型（生成式预训练模型）的底层原理，并说明其在自然语言处理任务中的关键机制。 考察对GMP模型底层架构、训练原理和关键机制的理解第 7 题请解释Self-Attention的核心思想及其在Transformer中的作用。 考察对注意力机制和Transformer架构的理解第 8 题怎么理解DETR中query的作用？ 考察对DETR架构中query机制的理解及其在目标检测中的作用第 9 题请解释自回归语言模型如何生成下一个字。 考察对自回归生成过程的理解第 10 题你如何理解大模型具备强大语义理解能力的原因？ 考察对大模型技术原理的底层理解与表达能力第 11 题介绍Transformer多头注意力机制，并重点说明计算过程。 考察对多头注意力机制原理与计算流程的掌握第 12 题你了解 ChatGPT 的模型和原理吗？请简述其核心工作机制。 考察对大语言模型基础原理的理解深度第 13 题请详细讲解Transformer架构的整体工作流程，包括从输入到输出的主要步骤。 考察对Transformer整体流程的清晰理解与关键机制掌握第 14 题Transformer架构的目标检测和Transformer架构的目标分类有什么不同？ 考察对Transformer在不同视觉任务中应用差异的理解第 15 题大模型实现的原理大概是怎样的？ 考察对大语言模型核心原理的整体理解与表述能力第 16 题为什么 Self-Attention 中要对点积结果除以 sqrt(d_k) 做缩放？请解释其数学原理和实际作用。 考察对 Transformer 中注意力缩放机制原理的理解