AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
求职导师
校招
求职攻略
大学生求职地图
求职攻略文章
浏览器插件
关于我们
我要招人
首页
面试题库
MiniMax面试题
使用DeepSpeed ZeRO-3微调Qwen…
MiniMax面试题
更新 2026-08-05
使用DeepSpeed ZeRO-3微调Qwen2-72B时,每张GPU卡占用显存大约多少?请给出估算思路和关键决定因素。
MiniMax
人工智能
性能优化
问题拆解
DeepSpeed
考察说明
考察大模型微调显存估算能力和对ZeRO-3机制的理解
回答思路
能列出显存主要组成部分:模型参数、梯度、优化器状态、激活值等
能利用ZeRO-3分区特性估算每卡参数相关显存
能考虑混合精度、激活值计算和batch size等关键变量
能给出一个大致量级而非精确值
换一题
上一题
说一说TCP和UDP的区别
下一题
CSS 如何设置一个正方形?
本题还出现在
人工智能行业面试题
人工智能面试题