阿里巴巴面试题 · 技术选型 · Transformer
阿里巴巴相关面试题，按最终去重题目聚合。
共 2826 道真题 · 当前筛选命中 7 道 · 更新 2026-08-05
筛选题目已选：技术选型 · Transformer
考察点
技术栈
第 1 题Multi-Head Attention 现在有一些优化，现在主流的优化都有哪些方向，每个方向下有什么优化方法？ 考察对注意力机制优化的体系化理解与前沿认知第 2 题请介绍 HSTU 架构，并说明其核心设计思想和适用场景。 考察对 HSTU 架构的理解、关键技术特点及其适用场景的把握第 3 题如何看待目前大语言模型都是decoder-only结构？ 考察对大语言模型架构演进的原理性理解与权衡分析第 4 题为什么大模型会选择使用旋转位置编码？ 考察对旋转位置编码设计动机和实际优势的综合理解第 5 题Transformer 中通常使用哪种归一化方式？为什么选择 Layer Normalization 而非 Batch Normalization？ 考察对 Transformer 中归一化技术选型及其理论依据的理解第 6 题encoder-only、decoder-only、encoder-decoder 不同架构在实际应用的使用场景分别是什么？ 考察对三种主流 Transformer 架构特点及适用场景的理解第 7 题在多头注意力中，存在哪些常见的变体？如何设计新的变体？ 考察对注意力机制变体的了解与设计思考