人工智能面试题 · 方案权衡 · Transformer
人工智能相关岗位面试题。
共 11389 道真题 · 当前筛选命中 236 道 · 更新 2026-08-05
筛选题目已选：方案权衡 · Transformer
考察点
技术栈
第 141 题在Transformer架构中，encoder和decoder哪个更重计算、哪个更重缓存？两者有什么区别？ 考察对Transformer编码器与解码器计算特性和缓存机制差异的理解第 142 题LSTM与Transformer的区别，以及后者的优势是什么？ 考察对序列建模架构演进的原理理解与优势分析能力第 143 题Prenorm和Postnorm是什么区别？ 考察对Transformer及深度学习模型中归一化位置选择的理解第 144 题如何构建长序列模型来处理超长输入？ 考察对长序列建模的架构设计与性能权衡第 145 题Transformer是encoder-decoder架构，而GPT是decoder-only架构，为什么会演变成这样一种形式？为什么把encoder给舍弃掉了？ 考察对语言模型架构演进逻辑和decoder-only优势的理解第 146 题RNN和Transformer的区别 考察对两种序列建模架构的核心差异及其适用场景的理解第 147 题Transformer 中多头注意力为什么要将注意力分数除以 sqrt(dk)？ 考察注意力机制数值稳定性与理论依据第 148 题针对梯度爆炸和消失问题，近年有哪些新的改进方法或研究方向？ 考察对深度学习训练稳定性的前沿了解第 149 题如何降低 KV cache 的内存占用？ 考察对 Transformer 推理中 KV cache 优化技术的理解第 150 题八股：多头和单头的情况下有什么区别？ 考察对多头注意力机制原理、计算与效果差异的理解第 151 题相比之下，Decoder-only相比Encoder-Decoder架构有哪些具体优势？ 考察对两类架构差异的深入辨析能力第 152 题当 Transformer 网络层数过深导致训练不稳定时，你会如何处理？ 考察对深层 Transformer 训练稳定性问题的理解与解决手段第 153 题Transformer架构为什么要切分为多头？ 考察对多头注意力机制设计动机与效果的理解第 154 题如何看待目前大语言模型都是decoder-only结构？ 考察对大语言模型架构演进的原理性理解与权衡分析第 155 题说一下大模型常用的位置编码有哪些，各有什么优缺点 考察对Transformer位置编码方案的原理理解与工程取舍第 156 题是否有Attention极化现象，如何应对？ 考察对Transformer中注意力分布极化问题的理解与应对策略第 157 题为什么ResNet没有像Transformer那样不断堆参数规模？ 考察对模型架构演进、深度学习趋势及两者差异的理解第 158 题针对 Transformer 模型推理过程，您会采用哪些优化手段（如 KV Cache、算子融合等）？请说明原理及收益。 考察对 Transformer 推理加速技术的原理理解与工程实践能力第 159 题LLaMA和GLM在模型架构等方面有哪些主要区别？ 考察对主流开源大模型架构差异的理解和对比分析能力第 160 题为什么大模型会选择使用旋转位置编码？ 考察对旋转位置编码设计动机和实际优势的综合理解