作业帮面试题更新 2026-08-05
如何估算大模型微调时的显存需求？请结合 DeepSpeed 的典型配置举例说明。
作业帮人工智能互联网/IT性能优化问题拆解技术原理DeepSpeed
考察说明
考察对大模型训练/微调显存构成的理解及工程估算能力
回答思路
- 能列出显存主要消耗项：模型参数、梯度、优化器状态、激活值
- 能说明混合精度下参数与梯度的存储差异
- 能代入具体模型参数量与 DeepSpeed ZeRO 阶段进行量化估算
- 能结合 batch size 和序列长度讨论激活值影响
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
