字节跳动面试题更新 2026-08-05
梯度累积等价于 batch 扩大的严格条件是什么？
字节跳动百度人工智能互联网/IT专业服务技术原理方案权衡
考察说明
考察对深度学习训练中梯度累积与增大 batch size 等价性的理论理解
回答思路
- 明确指出等价条件是优化器更新频率一致且无状态依赖
- 解释批归一化等层导致不等价的原因
- 说明学习率调度和权值衰减等超参数调整的影响
- 对比全量累积与分组累积的数值差异
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
