人工智能面试题更新 2026-08-05

请解释机器学习中的正则化概念,并阐述它有哪几方面的作用?同时列举常见的正则化方法。

人工智能技术原理

考察说明

考查对正则化概念的理解及其作用和常见方法的掌握。

回答思路

  1. 【回答框架 1】正则化是机器学习中用于抑制过拟合、提升模型泛化能力的一类技术策略。核心思想是在原始损失函数基础上加上对模型复杂度的惩罚项,迫使模型在拟合数据与保持简单之间取得平衡。
  2. 【回答框架 2】正则化的主要作用有三点:一是抑制过拟合,当模型在训练集表现好而测试集表现差时,正则化通过限制参数幅度或结构降低模型对训练噪声的敏感度;二是提升泛化能力,使模型对未见数据有更好的预测表现;三是辅助特征选择与稀疏化,比如L1正则化能将部分参数压缩为零,从而自动筛选重要特征。
  3. 【回答框架 3】常见方法包括:L1正则化(Lasso)在原损失上加入参数绝对值之和,倾向于产生稀疏解,适合特征维度高且需特征选择的场景;L2正则化(Ridge)加入参数平方和,使参数均匀收缩但不会变为零,能缓解多重共线性,计算上可导易于优化。
  4. 【回答框架 4】另外还有弹性网络(Elastic Net)结合L1与L2惩罚,兼顾稀疏与稳定性;早停法在训练过程中监控验证集性能,在过拟合开始前停止训练;Dropout常用于神经网络,通过随机丢弃部分神经元来减少单元间复杂共适应。
  5. 【回答框架 5】选择哪种正则化方法需结合模型类型、数据规模和任务需求,实际工程中常通过交叉验证调节正则化系数以获得最佳泛化性能。
  6. 【关键点 1】正则化通过在损失函数中添加惩罚项抑制过拟合,提升泛化能力。
  7. 【关键点 2】L1正则化产生稀疏解,L2正则化使参数平滑收缩。
  8. 【关键点 3】常用方法包括L1、L2、弹性网络、早停和Dropout。
  9. 【关键点 4】正则化强度需通过验证集或交叉验证调整。
  10. 【易错点 1】误认为正则化总有效,强度过大会导致欠拟合,模型过于简单。
  11. 【易错点 2】将L1和L2混淆,L1稀疏特征选择,L2均匀缩小参数。
  12. 【易错点 3】忽略数据标准化,参数尺度不一致时会扭曲惩罚项作用。