人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 201 题encoder-only、decoder-only、encoder-decoder 不同架构在实际应用的使用场景分别是什么？ 考察对三种主流 Transformer 架构特点及适用场景的理解第 202 题为什么Transformer中前馈网络FFN的隐藏维度通常是输入维度的4倍（d到4d）？ 考察对Transformer架构设计动机和参数权衡的理解第 203 题Transformer 中为什么要使用多头注意力机制？ 考察多头注意力的设计动机与理论优势第 204 题Self Attention和Position Embedding通常是直接相加的，如果改成concat会有什么影响？ 考察对Transformer输入融合方式及其对模型语义和参数量的理解第 205 题Transformer的FFN层能不能去掉，为什么？ 考察对Transformer架构中FFN层作用及必要性的深入理解第 206 题在Transformer中，多头注意力机制相比单头注意力有哪些优势？头数增加会如何影响算法复杂度？ 考察对多头注意力机制原理及其计算复杂度的理解第 207 题Transformer在多头自注意力计算中有什么优化方法？ 考察对自注意力计算瓶颈的理解及常用优化手段第 208 题Encoder-Decoder、Decoder-Only 哪种方式更好？ 考察对两类模型架构的适用场景和技术权衡的理解第 209 题Transformer 的位置编码是怎么做的？为什么需要它？ 考察对位置信息建模原理及常见实现的理解第 210 题请比较Transformer和LSTM在结构上的区别和各自优势，并说明Transformer是如何体现时序信息的。 考察对两种序列模型结构差异、优势适用场景及Transformer时序建模机制的理解第 211 题请比较BERT和GPT在预训练目标上的区别，并说明这种区别对下游任务的影响。 考察对BERT和GPT架构及预训练方式的深入理解第 212 题Transformer和传统循环网络的区别和优点 考察对Transformer与RNN架构差异及其优势的理解第 213 题请介绍DIN的注意力池化机制，并说明它与Transformer的self-attention有什么区别。 考察对DIN注意力机制的理解及与Transformer的对比第 214 题为什么Transformer中的FFN层通常采用先升维再降维的结构？ 考察对FFN层维度设计原理的掌握第 215 题能否解释Transformer使用多头注意力机制的动机？ 考察对多头注意力作用、动机及权衡的理解第 216 题请介绍几种常见的 Attention 加速方式及其原理。 考察对 Transformer 注意力机制的计算效率和优化方法的理解第 217 题Transformer现有架构在什么情况下，哪个模块会导致用户意图判别不准？ 考察对Transformer各模块原理及意图判别失败场景的理解第 218 题Transformer 相比 RNN 有哪些核心优势？请结合机制说明。 考察对 Transformer 与 RNN 架构差异及优势的理解第 219 题请比较Swin Transformer与ViT在架构上的主要区别，并解释Swin Transformer如何通过窗口化实现线性复杂度同时获得全局注意力。 考察对窗口注意力、移位窗口机制和复杂度权衡的理解第 220 题如何节省 Transformer Block 的计算量？ 考察对 Transformer 结构各组件计算开销来源及常见优化策略的掌握