朴素贝叶斯分类(naive Bayes)有一个“独立性假设”:给定一个实例的类标签,实例中的每个属性的出现都独立于实例中其他属性的出现,而在实际应用中这种条件并不易满足,另外由于文本的特殊性,相关的特征项可能会产生新的语义信息。因此在训练文本时,对特征选择后产生的特征集用一种可行的方法考察它们之间的相关性,然后对相关程度高的特征进行合并处理。实验数据表明,这个
维普资讯 doc.guandang.net
第2卷 5
第 2期
广西师范大学学报:自然科学版 Jun l f a g i r l i ri Nau a SineE io o r a o n x ma Unv s y: trl cec dt n Gu No e t i
V0 . 5 No. 12 2
2 0年 6月 07
J n 20 u .07
一
种改进的贝叶斯文本分类方法 张玉芳,剑敏,忠阳陈熊 (重庆大学计算机学院,重庆 40 3 ) 0 0 0
摘
要:朴素贝叶斯分类 (a e] y s有一个“ ni 3 e) v a独立性假设”给定一个实例的类标签,:实例中的每个属性的出
现都独立于实例中其他属性的出现,而在实际应用中这种条件并不易满足,另外由于文本的特殊性,相关的特征项可能会产生新的语义信息。因此在训练文本时,对特征选择后产生的特征集用一种可行的方法考察它们
之间的相关性,然后对相关程度高的特征进行合并处理。实验数据表明,这个改进的方法能提高朴素贝叶斯 的算法精确度。 关键词:文本分类;独立性假设;相关性
中图分类号; P 9 T 32
文献标识码: A
文章编号:0 16 0 (0 7 0—2 60 1 0— 60 2 0 )20 0— 4
文本分类的目标是在分析文本内容的基础上给文本分配一个或者多个比较合适的类别,本分类的文
过程是对训练集中文档的内容进行分析,构造一个分类器,这些分类器对新文档分类,文本分类的研用对
究大大缩小信息检索的范围,增强检索对象与检索要求的相关性。 目前较为著名的文本分类方法有 B y s方法、—方法、经网络方法、策树方法、 ae k NN神决支持向量机算 法等,中朴素贝叶斯方法是目前公认的一种简单有效的分类方法,其它是一种基于概率的分类方法。
1朴素贝叶斯分类 目前大多数分类方法是基于向量空间模型的[, 2在该模型中,]每个文档可看作词的序列,档中的词文称为特征,在经过切分词、除停用词、取词干等预处理后得到一个特征集合,去截还需要进行特征选择,找出能最好地代表一个文档或者类别的特征来参与分类计算,样文档表示为由特征组成的特征矢量。这 1 1朴素贝叶斯分类器及独立假设 .
贝叶斯文本分类模型是一种典型的
基于统计方法的分类模型[, 3它利用先验信息和样本数据信息来]
确定事件的后验概率。令论域=(, W。…, c是离散随机变量的有限集,中W, W。…, W,, W,)其 W,, W 为特征项集,变量 c的取值范围为 ( C,。…, )一个文档 d表示为特征向量 (, W。…, )则类 c, C, C, 1 W,, W, d属于类 C的概率可表示为:
pj zs,,垒芽士 (w砌,一 三 c,,… 1 根据概率的链规则:
。 () 2
P(,,,, l ) J_ ( l,, Wi1c) 1WzW3… W c一 I户 wiW1W2“,一,j, j L
朴素贝叶斯分类模型中的属性独立假设假定所有的属性都是相互条件独立,即有: P( f,,,一, ) ( f ) W1W2… W 1c一户 c, j j () 3
结合公式 () ()公式 ()变为: 2、3, 1则 收稿日期:0 61— 5 2 0—2 1基金项目;重庆市自然科学基金资助项目( S C2 0B 2 2 ) C T 0 6 B 0 1 作者简介:玉芳 ( 9 5 )女,海人,庆大学副教授,导。张 16一,上重硕

一种改进的朴素贝叶斯文本分类方法_专业资料。朴素贝叶斯分类器是一种简单有效的文本分类方法.改进方法利用同义词对文本的特征词集进行过滤,在一定程度上放松了朴素...
2007 一种改进的贝叶斯文本分类方法张玉芳, 陈剑敏, 熊忠阳 ( 重庆大学 计算机学院, 重庆 400030) 摘要: 朴素贝叶斯分类 ( na ive B ayes) 有一个 “独立...
这里提出一种改进的基于贝叶斯定理的文本分类模型——“树桩网络(Stump Network)”,并将该方法与朴素贝叶斯文本分类器和TAN(Tree Augmented Naive Bayes)文本分类器...
本文讨论了一种改进的朴素贝叶斯文本分类方法 , 通过弱化独立性 假设及提高特征集的代表性来改善分类性能 ,并将其与朴素贝叶斯文本分类器进行了实验比较 . 1 相关...
一种基于改进贝叶斯算法的Web文本分类方法_专业资料。针对基于互补贝叶斯的分类算法在数据倾斜分布时由于过学习现象导致分类准确度不理想的状况,提出一种改进的互补...
这里提出一种改进的 基于贝叶斯定理的文本分类模型——“树桩网络(Stump Network) ”,并将该方法与朴素贝叶斯 文本分类器和 TAN(Tree Augmented Naive Bayes)文本...
提出一种改进的贝叶斯网络文本分类算法,改进之处在于...
云计算环境下的一种改进的贝叶斯文本分类算法_张琳_互联网_IT/计算机_专业...2 朴素贝叶斯分类算法及其并行化2.1 朴素贝叶斯分类方法 贝叶斯分类器是一种典型...
贝叶斯算法是最有效的文本分类算法之一,但是属性间强独立性的假设在现实中并不成立,借鉴概率论中的多项式模型提出了一种改进型的贝叶斯方法;传统的特征抽取方法有...
提出一个新的评价函数,即互信息差值.将其用于改进的贝叶斯文本分类模型“树桩网络”。结果表明.在大多数数据集上该方法具有良好的分类效果。隐藏>> 维普资讯 http:...
热门文档