阿里巴巴面试题更新 2026-08-05
大模型在训练和推理时显存不够，有哪些优化方法？
阿里巴巴人工智能电商性能优化问题拆解技术原理LLM
考察说明
考察对大模型显存瓶颈的理解及训练和推理阶段优化手段的掌握
回答思路
- 能区分训练和推理阶段的显存占用差异
- 能列举梯度检查点、混合精度等训练优化方法
- 能说明KV Cache、量化、批处理等推理优化手段
- 能解释优化方法的基本原理和适用场景
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
