滴滴面试题更新 2026-08-05

影响大语言模型训练和推理显存占用的关键因素有哪些?请从训练和推理两个场景分别说明。

滴滴人工智能问题拆解技术原理方案权衡PyTorch

考察说明

考察对显存占用核心因素的全面理解与对比能力

回答思路

  1. 训练场景覆盖模型规模、批次、并行策略等
  2. 推理场景覆盖量化、KV缓存、序列长度等
  3. 能比较训练和推理显存占用差异原因
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。