高德地图面试题 · Transformer
高德地图相关面试题，按最终去重题目聚合。
共 1511 道真题 · 当前筛选命中 46 道 · 更新 2026-08-05
筛选题目已选：Transformer
考察点
技术栈
第 1 题在标准Transformer架构中，哪个模块的计算量最大？ 考察对Transformer组件计算复杂度的理解第 2 题请系统介绍 Transformer 的基本原理、关键组件及其相较于传统序列模型的优势，并简要说明其典型应用场景。 考察对 Transformer 架构原理的理解、对比分析能力及知识系统性第 3 题请解释自注意力机制和交叉注意力的区别，并说明为什么在缩放点积注意力中要对点积结果除以根号d。 考察对注意力机制原理的理解，包括自注意力和交叉注意力的区别，以及缩放因子的作用第 4 题多头注意力机制的计算复杂度是多少？ 考察对Transformer中多头注意力计算复杂度的理解第 5 题BERT和Transformer的位置编码及其区别 考察对位置编码原理及两者间差异的理解第 6 题Transformer 为什么使用 LayerNorm 而不是 BatchNorm？ 考察对归一化机制在序列建模中适用性的理解第 7 题请介绍 Transformer 的结构组成及各部分作用。 考察对 Transformer 核心组件及其功能的理解第 8 题三角函数位置编码有哪些好处？旋转位置编码相比它有什么优势？ 考察位置编码的设计动机与在长序列、相对位置建模上的差异第 9 题请详细介绍一下Transformer的整体结构及其核心组件的作用。 考察对Transformer架构各组成部分的理解及其设计动机第 10 题请解释Transformer中的Self-Attention机制是如何工作的？ 考察对Self-Attention原理、计算流程和数学表达的理解深度第 11 题目前的LLM结构和最开始的Transformers有哪些变化? 考察对Transformer架构演进及大模型技术迭代的理解第 12 题请解释Self-Attention的核心思想及其在Transformer中的作用。 考察对注意力机制和Transformer架构的理解第 13 题MHA（多头注意力机制）的计算复杂度比较高，有哪些改进的方法？ 考察Transformer注意力机制的计算瓶颈分析与优化方案设计第 14 题请实现多头注意力机制。 考察对多头注意力机制的理解与代码实现能力第 15 题Transformer和CNN有什么不同？ 考察对两种主流网络架构的机制理解与适用场景辨析第 16 题为什么Transformer用LN不用BN？ 考察对归一化原理、序列建模特性和梯度稳定性的理解第 17 题自注意力机制是什么，以及它是如何实现的？ 考察对Transformer核心机制的理解及其实现细节第 18 题Pre-LN和Post-LN在训练稳定性、梯度传播和最终性能上有什么区别？ 考察对两种结构影响机制的理解第 19 题为什么不在训练中使用KV-Cache？ 考察对Transformer训练与推理阶段访存与计算特性的理解第 20 题Transformer的计算复杂度主要由哪些因素构成？各模块复杂度分别是多少？ 考察对Transformer各组件复杂度来源的理解和量化分析能力