小鹅通面试题更新 2026-08-05
请解释大模型推理中加载 chunk（分块）的原理，包括分块策略和内存管理方面的内容。
小鹅通前端/移动开发技术原理方案权衡
考察说明
考察对大模型推理中分块加载机制的理解，涉及内存管理、分块策略及优化权衡
回答思路
- 能说明为何需要分块加载（显存/内存限制）
- 解释常见分块策略如按层、按序列长度、按KV缓存分块
- 提及加载时机的控制（如按需加载、预加载）
- 能区分不同分块粒度对性能的影响
- 结合具体场景说明分块的优缺点及权衡
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
