滴滴面试题更新 2026-08-05
LoRA 微调时主要调整的是模型中的哪些部分?为什么通常关注注意力矩阵而暂不更新其他参数?
滴滴技术原理方案权衡LoRA
考察说明
考察对 LoRA 低秩适配机制及其参数选择原理的理解
回答思路
- 能准确指出 LoRA 更新的是注意力层的 Q、K、V、O 投影矩阵的增量
- 能说明冻结原权重、仅训练低秩分解矩阵的思路
- 能解释为何优先微调注意力矩阵(如参数量占比高、影响大)
- 能简述对 MLP 等其他层也可应用 LoRA 的看法
本题附完整参考答案与评分标准
登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。