专业服务行业面试题更新 2026-08-05
请解释LoRA(Low-Rank Adaptation)的原理,并说明其如何在大模型微调中减少参数和显存开销。
百度人工智能专业服务技术原理技术选型LoRA
考察说明
考察对大模型参数高效微调技术的理解,包括低秩分解和训练机制
回答思路
- 准确描述低秩分解思想:用两个低秩矩阵近似权重更新量
- 说明LoRA冻结原模型权重,仅训练低秩矩阵
- 解释推理时可将低秩矩阵合并回原权重,不增加额外延迟
- 能阐述低秩性的理论直觉:权重更新具有低秩属性
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。