人工智能行业面试题 · 技术选型 · Transformer
人工智能行业相关面试题，按题目行业基础数据聚合。
共 6000 道真题 · 当前筛选命中 10 道 · 更新 2026-08-05
筛选题目已选：技术选型 · Transformer
考察点
技术栈
第 1 题在视觉Transformer中，图像经过patch切分后，如何为每个patch添加位置编码？请说明常见实现方式及其设计考量。 考察对视觉Transformer位置编码原理与实现细节的理解第 2 题请详细介绍一下Transformer的整体结构及其核心组件的作用。 考察对Transformer架构各组成部分的理解及其设计动机第 3 题当输入长度超过模型的最大长度限制时，常见处理方案有哪些（如padding、截断）？ 考察对长序列处理策略的掌握与权衡第 4 题请介绍Transformer模型的核心结构和原理，以及它相比传统RNN/LSTM的优势。 考察对Transformer架构、注意力机制及演进原因的理解第 5 题请介绍 Transformer 模型的结构，以及编码器和解码器各自的作用。 考察对 Transformer 架构及其各组件功能的理解第 6 题Transformer和CNN的区别和用法是什么？ 考察对两类主流神经网络架构的原理差异、适用场景和各自优缺点的理解第 7 题为什么现在主流都用Decoder-only而不是Encoder-decoder？ 考察对主流大模型架构选型原因的理解，包括训练效率、推理效率和效果权衡第 8 题请解释注意力机制中self-attention的计算复杂度，并说明其瓶颈。 考察对Transformer核心机制的计算复杂度理解及性能瓶颈识别第 9 题目前市面上常用的大模型是什么架构的？ 考察对大模型主流架构、工作原理和发展脉络的理解第 10 题Llama2 的 transformer block 相比原始 transformer 做了哪些关键改变？ 考察对 Llama2 架构中 RMSNorm、RoPE、SwiGLU、PreNorm 等核心组件的理解