贝叶斯信念网络

贝叶斯信念网络

贝叶斯信念网络

朴素贝叶斯分类假定类条件独立，即给定样本的类标号，属性的值相互条件独立。这一假定简化了计算。当假定成立时，与其它所有分类算法相比，朴素贝叶斯分类是最精确的。然而，在实践中，变量之间的依赖可能存在。贝叶斯信念网络（Bayesian belief network）说明联合条件概率分布。它允许在变量的子集间定义类条件独立性。它提供一种因果关系的图形，可以在其上进行学习。这种网络也被称作信念网络、贝叶斯网络和概率网络。为简洁计，我们称它为信念网络。

信念网络由两部分定义。第一部分是有向无环图，其每个节点代表一个随机变量，而每条弧代表一个概率依赖。如果一条弧由节点Y到Z，则Y是Z的双亲或直接前驱，而Z是Y的后继。给定其双亲，每个变量条件独立于图中的非后继。变量可以是离散的或连续值的。它们可以对应于数据给定的实际属性，或对应于一个相信形成联系的“隐藏变量”（如医疗数据中的综合病症）。

图7.6a给出了一个6个布尔变量的简单信念网络，弧表示因果知识。例如，得肺癌受家族肺癌史的影响，也受其是否吸烟影响。此外，该弧还表明：给定其双亲FamilyHistory和Smoker，变量LangCancer条件独立于Emphysema。这意味，一旦FamilyHistory和Smoker的值已知，变量Emphysema并不提供关于LangCancer的附加信息。

LC

-LC

定义信念网络的第二部分是每个属性一个条件概率表（CPT）。变量Z的CPT说明条件分布P(Z|Parents(Z))，其中Parents(Z)是Z的双亲。图7.6b给出了LangCancer的CPT。对于其双亲值的每个可能组合，表中给出了LangCancer的每个值的条件概率。例如，由左上角和右下角，我们分别看到

P(LangCancer=”yes” | FamilyHistory=”yes”, Smoker=”yes”)=0.8

P(LangCancer=”no” | FamilyHistory=”no”, Smoker=”no”)=0.9

对应于属性或变量Z1,Z2,…Zn的任意元组（z1,z2,…zn）的联合概率由下式计算：

P z1,...zn P ziparents zi （7.10）

i 1n

其中， zi 的值对应于Zi中的CPT中的表目。 P ziparents