美团面试题更新 2026-08-05

如何估算 LLaMA-7B 模型推理时的显存占用?

美团人工智能互联网/IT性能优化问题拆解技术原理

考察说明

考察大模型推理显存估算方法与关键要素

回答思路

  1. 说明模型参数内存与激活内存分离
  2. 考虑 KV cache、CUDA context 和框架开销
  3. 给出按精度和序列长度量化的估算过程
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。