人工智能行业面试题 · 方案权衡 · Transformer
人工智能行业相关面试题，按题目行业基础数据聚合。
共 6000 道真题 · 当前筛选命中 15 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 1 题常见的位置编码类型有哪些？ 考察对主流位置编码机制的理解与对比第 2 题Pre Norm 与 Post Norm 的区别是什么？ 考察对 Transformer 归一化位置及其对训练稳定性和性能影响的理解第 3 题图像数据通常如何处理位置编码？ 考察对图像任务中位置信息建模的理解第 4 题请介绍BERT的设计结构，以及它与原始Transformer的区别。 考察对预训练语言模型结构与Transformer架构差异的理解第 5 题Transformer和CNN有什么不同？ 考察对两种主流网络架构的机制理解与适用场景辨析第 6 题LSTM与Transformer的区别，以及后者的优势是什么？ 考察对序列建模架构演进的原理理解与优势分析能力第 7 题请比较Swin Transformer与ViT在架构上的主要区别，并解释Swin Transformer如何通过窗口化实现线性复杂度同时获得全局注意力。 考察对窗口注意力、移位窗口机制和复杂度权衡的理解第 8 题CNN和Transformer有什么区别？ 考察对两类主流神经网络架构在原理、适用场景和差异上的理解第 9 题当输入长度超过模型的最大长度限制时，常见处理方案有哪些（如padding、截断）？ 考察对长序列处理策略的掌握与权衡第 10 题请介绍Transformer模型的基本结构，并对比它与传统RNN在处理长序列时的优势。 考察对Transformer架构组成及与RNN差异的理解第 11 题请解释Transformer模型中的多头注意力机制是如何工作的？ 考察对多头注意力机制原理、作用及其在Transformer中意义的理解第 12 题为什么现在主流都用Decoder-only而不是Encoder-decoder？ 考察对主流大模型架构选型原因的理解，包括训练效率、推理效率和效果权衡第 13 题为什么在文本任务（如Transformer/BERT）中通常选择Layer Normalization（LN）而不是Batch Normalization（BN）？ 考察对文本与图像数据特性差异对归一化选择影响的理解第 14 题为什么主流大语言模型选择Decoder-only架构？ 考察对Transformer架构差异及大模型训练目标的理解第 15 题请解释深度学习中 Batch Normalization 应用于激活函数之前(pre-Norm)与之后(post-Norm)的区别及各自适用场景。 考察对 Batch Normalization 位置设计差异的理解及实践权衡