人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 61 题为什么目前主流的大模型采用 Decoder-only 架构？ 考察对 Transformer 架构演进、训练目标与能力差异的理解第 62 题除标准多头注意力（MHA）之外，你还了解哪些注意力机制的变体，比如GQA、MQA？它们各自解决了什么问题，分别适用于什么场景？ 考察对注意力机制演进脉络的理解及对计算与效果权衡的把握第 63 题请分析Self-Attention的时间复杂度，并与RNN进行对比。 考察时间复杂度分析与模型特性比较能力第 64 题介绍一下你了解的位置编码，以及各自的优缺点。 考察对Transformer位置编码方案的原理理解与权衡分析第 65 题多头注意力机制有哪些常见的改进方向？请举例说明。 考察对注意力机制变体的了解与对比能力第 66 题请解释DETR（Detection Transformer）的核心原理及其与两阶段检测器（如Faster R-CNN）的主要区别。 考察对Transformer目标检测模型基本结构、端到端训练思想及与传统检测器差异的理解第 67 题请解释深度学习中 Batch Normalization 应用于激活函数之前(pre-Norm)与之后(post-Norm)的区别及各自适用场景。 考察对 Batch Normalization 位置设计差异的理解及实践权衡第 68 题CNN和Transformer在图像分割或图像分类领域，各自的优缺点是什么？ 考察对主流视觉模型架构原理及适用场景的深入理解第 69 题为什么现代LLM架构普遍建立在Attention机制之上？ 考察对Attention优势及其在LLM中核心地位的理解第 70 题DIN和Transformer 的注意力机制区别 考察对两类注意力机制原理、适用场景与计算方式的差异化理解第 71 题Transformer的训练复杂度较高，尤其在处理长序列时。你了解哪些工作是致力于降低其训练时间复杂度的？ 考察对Transformer训练加速方法的了解深度与前沿追踪能力第 72 题如果只使用单头注意力,可能会在哪些方面受限? 考察对多头注意力机制价值与局限的理解第 73 题请对比Transformer与CNN、RNN的网络结构差异，并讨论各自的适用场景与设计考量。 考察对主流神经网络架构的原理理解、适用场景判断和设计权衡能力第 74 题Transformer和CNN有什么不同？ 考察对两种主流网络架构的机制理解与适用场景辨析第 75 题请介绍多头注意力机制的原理和优势。 考察对多头注意力机制本质理解及Transformer中的应用第 76 题DIN 和 Transformer 的 attention 有什么不同？ 考察对两种 attention 机制的设计动机、计算方式和应用场景差异的理解第 77 题大模型训练和推理中常用的位置编码方案有哪些？请分别说明每种编码方式的优势、局限性及适用模型。 考察对位置编码原理、演进和适用场景的深入理解第 78 题为什么Transformer用LN不用BN？ 考察对归一化原理、序列建模特性和梯度稳定性的理解第 79 题为什么Transformer使用三角函数位置编码，相比于[1,2,3..]这种硬编码的好处在哪？ 考察位置编码设计动机与相对位置信息建模第 80 题请解释位置编码在Transformer中的作用，并说明正弦位置编码与可学习位置编码的差异及适用场景。 考察对Transformer位置编码原理及其不同实现方式的理解