人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 21 题基于Transformer大模型，怎么处理用户的长行为序列？ 考察在Transformer框架下对超长用户序列的建模与工程处理能力第 22 题请介绍 Transformer 的整体结构，并解释多头注意力、编码器-解码器结构、前馈神经网络以及 KVQ 键值查询机制各自的作用与配合方式。 考察对 Transformer 核心组件及其协作逻辑的理解第 23 题请介绍几种常见的位置编码方式及其特点。 考察对Transformer位置编码技术的理解与比较第 24 题encoder-only和decoder-only的对比，纯理解场景哪更优？ 考察对Transformer架构差异及其在理解任务上的适用性第 25 题Transformer 中 LayerNorm 放在 Attention 前还是后？有什么区别？ 考察对 Transformer 架构细节的理解及两种归一化位置的设计差异第 26 题在Transformer中，为什么Q、K、V要分别通过三个不同的线性映射获得？ 考察对Transformer注意力机制中QKV映射作用的理解第 27 题什么是大语言模型的“上下文窗口”？扩展上下文窗口对模型性能有何影响？ 考察对大语言模型上下文窗口概念的理解及其扩展带来的性能权衡第 28 题Transformer 为什么使用 LayerNorm 而不是 BatchNorm？ 考察对归一化机制在序列建模中适用性的理解第 29 题请介绍Fast Transformer的优化原理，并说明它在长序列场景下的优势。 考察对Transformer加速技术原理的理解和应用能力第 30 题除了标准多头注意力（MHA）之外，你还了解哪些注意力机制（如 GQA、MQA、MLA）？请讲解其原理。 考察对高效注意力变体的原理理解，包括参数共享、KV缓存和推理效率第 31 题Transformer和CNN、ViT的区别和关系是什么？ 考察对主流视觉与序列模型架构原理及演进关系的理解第 32 题Transformer和CNN在目标检测中有什么相同和不同点 考察对CNN与Transformer在目标检测中结构差异和适用场景的理解第 33 题BatchNorm和LayerNorm在做法和应用上有什么区别？在Transformer中为什么常用LayerNorm？ 考察对归一化方法原理的辨析及其在序列模型中的适用性第 34 题还了解哪些新的位置编码？ 考察对Transformer位置编码最新进展的了解与理解第 35 题Transformer相比LSTM的核心区别有哪些？请从序列建模方式、并行性和长期依赖处理等方面说明。 考察对Transformer与LSTM差异的理解，以及技术选型意识第 36 题请比较 Transformer 中 Pre-LayerNorm 与 Post-LayerNorm 的差异及其影响。 考察候选人对 Transformer 归一化结构差异及其训练特性影响的理解第 37 题Attention机制解决了什么问题？它还存在哪些缺点？ 考察对Attention机制原理、价值与局限性的理解深度第 38 题请解释什么是KV Cache，以及为什么一般只缓存Key和Value矩阵，而不对Query和Key的乘积做缓存？ 考察对Transformer推理优化中KV Cache原理及缓存粒度的理解第 39 题Transformer中Encoder和Decoder的区别和联系，以及如果单独分开使用的话，各自的优缺点是什么？ 考察对Transformer架构的理解、模块职责划分及独立使用的适用场景分析第 40 题了解过之前的NLP技术吗？BERT是怎么样的，跟大模型相比的优势是什么？ 考察BERT技术理解及与LLM对比的认知深度