在朴素贝叶斯分类方法中,通常有哪些常用的模型类型?请对它们分别进行解释。
考察说明
考查对朴素贝叶斯分类器具体模型类型的掌握,以及对其假设和适用场景的理解。
回答思路
- 【回答框架 1】朴素贝叶斯分类器基于贝叶斯定理,假设特征条件独立。常见的模型主要有三种:高斯朴素贝叶斯、多项式朴素贝叶斯和伯努利朴素贝叶斯。
- 【回答框架 2】高斯朴素贝叶斯适用于连续特征,假设每个特征在每个类别下服从高斯分布(正态分布)。分类时用训练数据估计每个类别下各特征的均值和方差,再计算后验概率。
- 【回答框架 3】多项式朴素贝叶斯适用于离散特征,尤其是文本分类中的词频或词数。它假设特征服从多项式分布,考虑了特征出现的次数。常用于文档分类、垃圾邮件过滤等。
- 【回答框架 4】伯努利朴素贝叶斯也适用于离散特征,但假设特征是二元布尔值(出现或不出现),不考虑次数。适合特征稀疏且仅关心是否出现的场景,如短文本分类。
- 【回答框架 5】选择哪种模型取决于特征的数据类型:连续特征选高斯,离散计数选多项式,二元布尔选伯努利。实际应用需注意特征独立性的假设,若特征强相关,模型效果会受影响。
- 【关键点 1】高斯朴素贝叶斯用于连续特征,假设正态分布。
- 【关键点 2】多项式朴素贝叶斯用于离散计数特征,如词频。
- 【关键点 3】伯努利朴素贝叶斯用于二元特征,如词是否出现。
- 【关键点 4】模型的共同前提是特征条件独立。
- 【易错点 1】不要将所有特征都当作高斯分布或多项式分布,应根据数据类型选择模型。
- 【易错点 2】忽略特征独立性假设容易导致概率估计偏差。
- 【易错点 3】多项式朴素贝叶斯对零概率需平滑处理(如拉普拉斯平滑),否则后验概率可能为零。