人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 161 题在 Transformer 中使用位置编码（PE）相比不使用时有哪些优势？ 考察对 Transformer 位置信息建模必要性与 PE 优势的理解第 162 题LoRA（低秩适配）可以应用在哪些模型或模块上？ 考察对LoRA适用范围的广度理解第 163 题请比较MHA（多头注意力）和GQA（分组查询注意力）的异同，并说明GQA的实际应用场景。 考察对Transformer注意力机制变体的理解与工程权衡第 164 题请比较正余弦位置编码（如Transformer原始实现）与RoPE（旋转位置编码）的异同，并说明RoPE相对于正余弦编码的优势。 考察对位置编码原理及其演进的理解，特别是RoPE的设计动机与优势第 165 题请说明 BERT 的模型结构，并对比它与传统文本编码器（如 RNN、LSTM）的优势。 考察对 BERT 架构原理的理解及与传统编码器的对比分析能力第 166 题请说明 Transformer、BERT 和 GPT 各自使用的位置编码方式，并比较其异同。 考察对主流模型位置编码原理的理解与对比能力第 167 题请解释Transformer模型中的多头注意力机制是如何工作的？ 考察对多头注意力机制原理、作用及其在Transformer中意义的理解第 168 题为什么BERT时代没有出现scaling law？ 考察对规模法则前提、历史背景和架构差异的理解第 169 题Transformer的流程,和CNN的区别 考察对Transformer架构流程的理解及与CNN的对比第 170 题Transformer位置编码为什么选择基于正弦和余弦函数的sincos编码？ 考察对sincos位置编码设计原理的理解，包括相对位置和学习特性第 171 题Transformer的normalization,为什么用LayerNorm不用其他的;介绍RMSNorm 考察对Transformer归一化机制的理解与归一化技术选型的权衡第 172 题请介绍你熟悉领域中的一个经典模型，并说明它的核心思想、适用场景以及相较于前后模型的优劣势。 考察对领域经典模型的深度理解、演进脉络和比较分析能力第 173 题BLIP-2 中 Q-Former 的作用是什么？为什么要加一个 Query Transformer？ 考察对 BLIP-2 架构设计动机的理解，尤其是视觉语言对齐与训练效率第 174 题请比较LSTM与Transformer的优缺点，并说明各自适用的场景。 考察对循环神经网络与注意力机制架构的深入理解及场景适配能力第 175 题如何降低 Transformer 的计算复杂度？请列举主要方法。 考察对 Transformer 注意力机制瓶颈的认知及常用优化手段第 176 题Transformer中为什么使用Layer Normalization而不是Batch Normalization？ 考察对Transformer中归一化机制选择的理解及深层原因第 177 题介绍不同多头注意力变体（MHA、MQA、GQA）的区别。 考察对Transformer注意力机制不同变体的理解，包括参数共享、计算效率与效果权衡第 178 题Transformer的Softmax能否去掉，为什么？ 考察自注意力机制中Softmax的作用、数值稳定性及替代方案的理解第 179 题请介绍Transformer模型的基本结构，并对比它与传统RNN在处理长序列时的优势。 考察对Transformer架构组成及与RNN差异的理解第 180 题请解释多头注意力机制的含义，并说明它相比单头注意力的优势。 考察对注意力机制核心原理与多头设计价值的理解