AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
登录
登录
AI 简历
简历模板
简历范文
模拟面试
校招
求职攻略
关于我们
我要招人
首页
面试题库
美团面试题
如何估算 LLaMA-7B 模型推理时的显存占用…
美团面试题
更新 2026-08-05
如何估算 LLaMA-7B 模型推理时的显存占用?
美团
人工智能
互联网/IT
性能优化
问题拆解
技术原理
考察说明
考察大模型推理显存估算方法与关键要素
回答思路
说明模型参数内存与激活内存分离
考虑 KV cache、CUDA context 和框架开销
给出按精度和序列长度量化的估算过程
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。
开始模拟面试
登录查看答题指导
换一题
上一题
MySQL有哪些引擎,区别是什么?
下一题
请描述JVM的内存区域划分及各部分的作用。
本题还出现在
互联网/IT行业面试题
人工智能面试题