人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 181 题请说明 Transformer 中 Layer Normalization 的作用、计算过程及其与 Batch Normalization 的区别。 考察对 Transformer 中层归一化原理、计算细节及对比知识的掌握第 182 题为什么目前主流的模型都是用的decoder-only结构？ 考察对Transformer架构变体及其权衡的理解第 183 题Transformer 与 DIN 的注意力机制有哪些区别？ 考察对两种注意力机制原理及适用场景的辨析能力第 184 题请说明 RoPE 旋转位置编码的核心思想。 考察对 RoPE 原理及相对位置建模的理解第 185 题介绍几种Attention技术的不同 考察对多种Attention变体的理解与区分能力第 186 题为什么现在主流都用Decoder-only而不是Encoder-decoder？ 考察对主流大模型架构选型原因的理解，包括训练效率、推理效率和效果权衡第 187 题Transformer相对于传统模型（如RNN、LSTM、CNN）的主要优势是什么？ 考察对Transformer架构优势的理解，包括并行计算、长距离依赖处理和全局信息捕获第 188 题你了解哪些改进注意力机制复杂度的方法，使其从 O(n²d) 降下来？ 考察对注意力机制复杂度问题及主流优化方案的掌握第 189 题为什么需要位置编码？一个好的位置编码应具备哪些特性？请介绍主流的位置编码方法及其设计思路。 考察对Transformer位置编码必要性、设计原则及主流方案的掌握第 190 题Batch Normalization和Layer Normalization有什么区别？在Transformer中通常使用哪种？ 考察归一化方法原理及在Transformer中的选用原因第 191 题请对比Transformer与RNN、LSTM在结构和建模能力上的区别。 考察对主流序列模型核心差异的理解第 192 题大模型的Attention层结构有什么区别？ 考察对不同Transformer架构中Attention变体的原理理解与对比能力第 193 题请解释Transformer中Attention的计算过程，包括为什么除以根号d_k、时间复杂度分析以及为什么要使用多头注意力机制。 考察对Transformer注意力机制原理、数学细节和设计动机的理解第 194 题推理时若图像尺寸不一致，切分 patch 后多出的 patch 应如何进行位置编码？ 考察视觉 Transformer 中针对变长输入的位置编码处理策略第 195 题你了解 MHA、MQA、GQA 这三种注意力机制吗？请分别介绍一下它们。 考察对多头注意力变体及其动机与权衡的理解第 196 题为什么当前主流大型语言模型普遍采用Decoder-only架构？ 考察对LLM架构选型背后工程与理论权衡的理解第 197 题在Transformer中，如何降低注意力机制的计算复杂度？ 考察对注意力机制复杂度问题的理解及优化方案第 198 题Transformer 中通常使用哪种归一化方式？为什么选择 Layer Normalization 而非 Batch Normalization？ 考察对 Transformer 中归一化技术选型及其理论依据的理解第 199 题Transformer和传统seq2seq模型有什么区别? 考察对序列建模架构演进的理解及两者核心机制差异第 200 题为什么LoRA应用于FFN层是有效的？ 考察对FFN层参数量大和低秩特性的理解