我要招人

人工智能面试题更新 2026-08-05

在深度学习模型部署到特定任务时，通常会采用微调（Fine-tuning）技术。请列举并简要说明几种常见的微调方法及其适用场景。

人工智能技术原理方案权衡

考察说明

考察对模型微调常用方法的理解与分类能力，以及不同方法间的取舍。

回答思路

  1. 【回答框架 1】全量微调（Full Fine-tuning）是对预训练模型的所有参数进行更新，使其适应目标任务。这种方法效果通常较好，但计算和存储成本高，需要为每个任务保存一份完整模型副本。
  2. 【回答框架 2】参数高效微调（PEFT）只更新少量额外参数或部分参数，冻结大部分预训练权重。常见方法包括：Adapter（在Transformer层中插入小型适配模块）、LoRA（低秩分解权重增量）、Prompt Tuning（仅训练连续提示向量）等。这些方法在保持接近全量微调效果的同时大幅降低训练和存储开销。
  3. 【回答框架 3】基于提示的微调（Prompt-based）包括硬提示（手工设计模板）和软提示（可学习向量），用于激发模型已有的知识完成下游任务，尤其适用于小样本场景。
  4. 【回答框架 4】迁移学习中的微调策略还包括分阶段微调（先微调高层，再逐步解冻底层）和领域自适应微调（使用领域数据继续预训练再微调），以缓解灾难性遗忘并提升领域适应性。
  5. 【关键点 1】全量微调更新所有参数，效果好但成本高。
  6. 【关键点 2】参数高效微调冻结大部分权重，只训练少量参数，如Adapter、LoRA、Prompt Tuning。
  7. 【关键点 3】LoRA通过低秩分解减少可训练参数量。
  8. 【关键点 4】Prompt Tuning仅优化输入提示向量，不修改模型主体。
  9. 【关键点 5】选择微调方法需权衡数据量、资源预算和效果要求。
  10. 【易错点 1】误以为微调方法之间是排他性的，实际可组合使用，如LoRA与Prefix Tuning结合。
  11. 【易错点 2】忽略灾难性遗忘风险，在数据量极少时全量微调可能过拟合。
  12. 【易错点 3】假定所有任务都有足够的标注数据，实际小样本场景下应优先考虑参数高效微调或提示学习。