人工智能行业面试题更新 2026-08-05
LoRA的具体实现方式,以及通常训练的参数类型
商汤科技人工智能技术原理技术选型LoRA
考察说明
考察对LoRA的数学机理、实现细节以及其可训练参数类型的掌握
回答思路
- 说明LoRA通过低秩矩阵分解对权重更新进行近似
- 指出训练时仅更新低秩矩阵A和B,冻结原始预训练权重
- 涉及秩r、alpha缩放以及初始化方式(B初始化为0)
- 提及LoRA适用的参数类型,如线性层和注意力层的权重矩阵
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。