滴滴面试题更新 2026-08-05

LoRA 微调时主要调整的是模型中的哪些部分?为什么通常关注注意力矩阵而暂不更新其他参数?

滴滴技术原理方案权衡LoRA

考察说明

考察对 LoRA 低秩适配机制及其参数选择原理的理解

回答思路

  1. 能准确指出 LoRA 更新的是注意力层的 Q、K、V、O 投影矩阵的增量
  2. 能说明冻结原权重、仅训练低秩分解矩阵的思路
  3. 能解释为何优先微调注意力矩阵(如参数量占比高、影响大)
  4. 能简述对 MLP 等其他层也可应用 LoRA 的看法
本题已收录答题指导

本题附完整参考答案与评分标准

登录后可查看结构化答题指导;也可以直接开一场模拟面试,AI 面试官用本题实时追问并给出评分。