阿里巴巴面试题更新 2026-08-05
二维的attention mask矩阵是一个耗显存的操作，有什么优化策略？比如用一维的实现二维的功能之类的。
阿里巴巴人工智能电商性能优化技术原理方案权衡
考察说明
考察对大语言模型推理与训练中attention mask内存优化策略的理解
回答思路
- 能解释二维mask在长序列下的显存开销来源为O(n^2)存储
- 能说明用一维mask或压缩编码减少显存占用的原理
- 能讨论block-sparse或分段mask策略及其应用场景
- 能指出优化对计算复杂度或实现复杂度的影响
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
