人工智能面试题更新 2026-08-05

在处理训练数据时,决策树模型可能面临欠拟合或过拟合的问题。请阐述决策树算法分别通过哪些策略来缓解这两种情况,并解释其背后的原理。

人工智能技术原理方案权衡

考察说明

考察对决策树模型偏差与方差权衡的理解,以及应对过拟合和欠拟合的具体工程手段。

回答思路

  1. 【回答框架 1】过拟合是指模型在训练集上表现优异但在测试集上泛化能力差,通常由于树过于复杂、深度过大或叶子节点过多导致。决策树应对过拟合的核心手段是剪枝,包括预剪枝和后剪枝。预剪枝在构建过程中通过设定最大深度、最小样本数等超参数提前停止分裂;后剪枝则先构建完整树,再自底向上用验证集评估剪去非关键子树是否能提升泛化性能。
  2. 【回答框架 2】欠拟合则相反,模型过于简单,训练集和测试集表现都不佳。常因树深度过浅或分裂条件过于严格导致。缓解策略包括增加树深度、放宽分裂阈值、增加特征数量或使用集成方法如随机森林和梯度提升树,通过组合多棵决策树提升模型容量与拟合能力。
  3. 【关键点 1】剪枝是控制决策树过拟合的主要手段,分预剪枝和后剪枝。
  4. 【关键点 2】超参数如最大深度、最小叶子样本数可限制树复杂度。
  5. 【关键点 3】欠拟合需增大模型容量,可增加深度或使用集成学习。
  6. 【关键点 4】后剪枝通常比预剪枝保留更多信息,但计算成本高。
  7. 【关键点 5】集成方法能减少方差和偏差,缓解过拟合与欠拟合。
  8. 【易错点 1】预剪枝可能因过早停止分裂导致欠拟合,需权衡。
  9. 【易错点 2】后剪枝依赖验证集,若验证集过小可能导致评估不稳定。
  10. 【易错点 3】使用集成方法时,若树深度过深仍可能过拟合,需调参。