专业服务行业面试题更新 2026-08-05
LoRA 中 A、B 矩阵通常如何初始化？为什么 B 矩阵初始化为全零？反过来会有什么问题？
百度人工智能专业服务技术原理方案权衡
考察说明
考察对 LoRA 参数初始化原理和训练稳定性的理解
回答思路
- 正确说明 A 通常用高斯随机初始化，B 初始化为零
- 解释 B 为零使初始增量 ΔW 为零，模型等效于预训练权重
- 说明若 B 非零随机初始会破坏初始权重，导致训练不稳定或收敛变差
- 涉及缩放因子和秩的选择对初始化的影响
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。
