在LoRA中，A和B两个矩阵通常如何初始化？为什么采用这种初始化方式？

Question

Accepted Answer

考察点：考察对LoRA初始化细节及其原因的理解。回答思路：准确说明A使用随机高斯初始化、B初始化为零矩阵 解释这种初始化使训练开始时BA乘积为零，不改变原模型输出 能够说明该设计对训练稳定性的作用

考察说明