阿里巴巴面试题 · 性能优化 · Transformer
阿里巴巴相关面试题,按最终去重题目聚合。
共 2826 道真题 · 当前筛选命中 5 道 · 更新 2026-08-05
筛选题目已选:性能优化 · Transformer
考察点
技术栈
第 1 题什么是大语言模型的“上下文窗口”?扩展上下文窗口对模型性能有何影响? 考察对大语言模型上下文窗口概念的理解及其扩展带来的性能权衡第 2 题解释KV Cache的内存瓶颈,并推导多头注意力机制的计算复杂度。 考察对Transformer推理阶段KV Cache内存占用及注意力计算复杂度的理解第 3 题如何为多头注意力模块添加正则化或增强策略以提升训练稳定性? 考察模型训练的工程优化与设计能力第 4 题如何降低 KV cache 的内存占用? 考察对 Transformer 推理中 KV cache 优化技术的理解第 5 题多头注意力机制相比单头注意力在计算效率上是否有优势?请从矩阵计算角度说明。 考察对多头注意力计算结构的理解和效率分析能力