电商行业面试题 · 技术选型 · Transformer
电商行业相关面试题，按题目行业基础数据聚合。
共 10617 道真题 · 当前筛选命中 12 道 · 更新 2026-08-05
筛选题目已选：技术选型 · Transformer
考察点
技术栈
第 1 题请介绍 Attention 机制的主要类型及其应用场景。 考察对 Attention 机制分类及各类别特性的理解深度第 2 题Transformer相对于传统模型（如RNN、LSTM、CNN）的主要优势是什么？ 考察对Transformer架构优势的理解，包括并行计算、长距离依赖处理和全局信息捕获第 3 题如何看待目前大语言模型都是decoder-only结构？ 考察对大语言模型架构演进的原理性理解与权衡分析第 4 题为什么大模型会选择使用旋转位置编码？ 考察对旋转位置编码设计动机和实际优势的综合理解第 5 题你如何理解大模型的基本原理，比如 Transformer 架构？ 考察对 Transformer 架构及大模型核心机制的理解深度第 6 题encoder-only、decoder-only、encoder-decoder 不同架构在实际应用的使用场景分别是什么？ 考察对三种主流 Transformer 架构特点及适用场景的理解第 7 题在多头注意力中，存在哪些常见的变体？如何设计新的变体？ 考察对注意力机制变体的了解与设计思考第 8 题请介绍Transformer中常见的几种位置编码方式，并说明各自的优缺点。 考察对Transformer位置编码原理及演进的理解第 9 题为什么LoRA作者最初将可训练矩阵施加在注意力层的q、k、v、o权重上？ 考察对注意力层关键作用及原始论文设计动机的理解第 10 题Transformer 中通常使用哪种归一化方式？为什么选择 Layer Normalization 而非 Batch Normalization？ 考察对 Transformer 中归一化技术选型及其理论依据的理解第 11 题Multi-Head Attention 现在有一些优化，现在主流的优化都有哪些方向，每个方向下有什么优化方法？ 考察对注意力机制优化的体系化理解与前沿认知第 12 题请介绍 HSTU 架构，并说明其核心设计思想和适用场景。 考察对 HSTU 架构的理解、关键技术特点及其适用场景的把握