朴素贝叶斯法

Question 1

朴素贝叶斯的假设

Answer 1

朴素贝叶斯是基于贝叶斯定理和特征条件独立假设的分类方法

Question 2

朴素贝叶斯概述

Answer 2

首先基于特征条件独立假设, 学习输入输出的联合概率分布;具体就是学习先验概率p(y=c)和条件概率分布p(x=x|y=c), 因为有假设特征条件独立, 所以可以将p(x=x|y=c)变形为 p(xi=xi|y=c)连乘的形式
然后基于此模型, 对给定的输入x, 利用贝叶斯定理求得后验概率最大的输出y, 即计算使得p(y=c|x=x)最大的c

Question 3

朴素贝叶斯的策略

Answer 3

0-1风险函数, 期望风险最小化, 此时期望风险最小化等价于后验概率最大化准则

Question 4

朴素贝叶斯法用极大似然估计可能会产生什么问题?如何处理

Answer 4

在求条件概率时P(xi=xi|y=c)时, 可能会出现为0的情况. 可以换用贝叶斯估计. 也就是在分子上加lambda, 分母上加s倍的lamda, s是xi的可能取值个数, lambda>0.

Question 5

朴素贝叶斯是生成算法么

Answer 5

是的