我要招人

人工智能面试题更新 2026-08-05

训练一个7B参数的大语言模型大约需要多少显存？请说明主要组成部分。

滴滴人工智能问题拆解技术原理PyTorch

考察说明

考察大模型训练显存占用估算及组成部分理解

回答思路

  1. 能区分参数、梯度、优化器状态等显存开销
  2. 能给出大致的显存范围或数量级
  3. 能说明影响显存的关键因素