欣旺达面试题更新 2026-08-05

请介绍LoRA微调的基本原理,并说明AB矩阵的维度计算方式。

欣旺达人工智能通信/运营商技术原理技术选型LLM

考察说明

考察对大模型参数高效微调技术LoRA的理解

回答思路

  1. 说明LoRA冻结原参数、注入低秩矩阵的思想
  2. 解释AB矩阵维度推导,A为r×d、B为d×r
  3. 能说明秩r的选择对参数量和效果的影响
  4. 结合具体隐藏层维度举例计算