LoRA微调中alpha和rank参数如何选择？它们对模型的影响分别是什么？
考察说明
考察对LoRA超参数作用机理与实际选择策略的理解
回答思路
- 准确说明rank决定低秩矩阵的维度及可表示参数空间
- 准确说明alpha作为缩放因子对更新幅度的调节作用
- 解释alpha与rank比例（如alpha/rank）的实践经验及对训练稳定性的影响
- 说明rank过大或过小的可能后果（欠拟合/过拟合、计算与存储开销）
- 结合具体任务（如对话、代码）给出选择建议与调参验证方法
本题已收录答题指导
本题附完整参考答案与评分标准
登录后可查看结构化答题指导；也可以直接开一场模拟面试，AI 面试官用本题实时追问并给出评分。