钉钉信息面试题更新 2026-08-05

大模型推理成本高,主要消耗在哪些地方?

钉钉信息人工智能互联网/IT性能优化技术原理方案权衡

考察说明

考察对大模型推理资源消耗构成的理解与成本优化意识

回答思路

  1. 指出计算资源(GPU算力)是核心消耗
  2. 说明显存占用(权重、KV Cache、激活)的影响
  3. 提及内存带宽、能耗和存储容量等次要因素
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。