LoRA和p-tuning v2的区别,以及初始化方式

回答思路

1. 准确说明LoRA通过在权重矩阵旁注入低秩分解矩阵微调,不修改原参数
2. 说明p-tuning v2通过在输入层前缀引入可学习连续提示向量微调
3. 对比两者在参数量、训练稳定性和任务适用性上的差异
4. 分别说明LoRA的低秩矩阵初始化和p-tuning v2的初始化方式