文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 工程科技 > 信息与通信 > 一种改进的贝叶斯文本分类方法
侵权投诉

一种改进的贝叶斯文本分类方法

朴素贝叶斯分类(naive Bayes)有一个“独立性假设”:给定一个实例的类标签,实例中的每个属性的出现都独立于实例中其他属性的出现,而在实际应用中这种条件并不易满足,另外由于文本的特殊性,相关的特征项可能会产生新的语义信息。因此在训练文本时,对特征选择后产生的特征集用一种可行的方法考察它们之间的相关性,然后对相关程度高的特征进行合并处理。实验数据表明,这个

维普资讯 doc.guandang.net

第2卷 5

第 2期

广西师范大学学报:自然科学版 Jun l f a g i r l i ri Nau a SineE io o r a o n x ma Unv s y: trl cec dt n Gu No e t i

V0 . 5 No. 12 2

2 0年 6月 07

J n 20 u .07

一

种改进的贝叶斯文本分类方法 张玉芳,剑敏,忠阳陈熊 (重庆大学计算机学院,重庆 40 3 ) 0 0 0

摘

要:朴素贝叶斯分类 (a e] y s有一个“ ni 3 e) v a独立性假设”给定一个实例的类标签,:实例中的每个属性的出

现都独立于实例中其他属性的出现,而在实际应用中这种条件并不易满足,另外由于文本的特殊性,相关的特征项可能会产生新的语义信息。因此在训练文本时,对特征选择后产生的特征集用一种可行的方法考察它们

之间的相关性,然后对相关程度高的特征进行合并处理。实验数据表明,这个改进的方法能提高朴素贝叶斯 的算法精确度。 关键词:文本分类;独立性假设;相关性

中图分类号; P 9 T 32

文献标识码: A

文章编号:0 16 0 (0 7 0—2 60 1 0— 60 2 0 )20 0— 4

文本分类的目标是在分析文本内容的基础上给文本分配一个或者多个比较合适的类别,本分类的文

过程是对训练集中文档的内容进行分析,构造一个分类器,这些分类器对新文档分类,文本分类的研用对

究大大缩小信息检索的范围,增强检索对象与检索要求的相关性。 目前较为著名的文本分类方法有 B y s方法、—方法、经网络方法、策树方法、 ae k NN神决支持向量机算 法等,中朴素贝叶斯方法是目前公认的一种简单有效的分类方法,其它是一种基于概率的分类方法。

1朴素贝叶斯分类 目前大多数分类方法是基于向量空间模型的[, 2在该模型中,]每个文档可看作词的序列,档中的词文称为特征,在经过切分词、除停用词、取词干等预处理后得到一个特征集合,去截还需要进行特征选择,找出能最好地代表一个文档或者类别的特征来参与分类计算,样文档表示为由特征组成的特征矢量。这 1 1朴素贝叶斯分类器及独立假设 .

贝叶斯文本分类模型是一种典型的

基于统计方法的分类模型[, 3它利用先验信息和样本数据信息来]

确定事件的后验概率。令论域=(, W。…, c是离散随机变量的有限集,中W, W。…, W,, W,)其 W,, W 为特征项集,变量 c的取值范围为 ( C,。…, )一个文档 d表示为特征向量 (, W。…, )则类 c, C, C, 1 W,, W, d属于类 C的概率可表示为:

pj zs,,垒芽士 (w砌,一 三 c,,… 1 根据概率的链规则:

。 () 2

P(,,,, l ) J_ ( l,, Wi1c) 1WzW3… W c一 I户 wiW1W2“,一,j, j L

朴素贝叶斯分类模型中的属性独立假设假定所有的属性都是相互条件独立,即有: P( f,,,一, ) ( f ) W1W2… W 1c一户 c, j j () 3

结合公式 () ()公式 ()变为: 2、3, 1则 收稿日期:0 61— 5 2 0—2 1基金项目;重庆市自然科学基金资助项目( S C2 0B 2 2 ) C T 0 6 B 0 1 作者简介:玉芳 ( 9 5 )女,海人,庆大学副教授,导。张 16一,上重硕

一种改进的贝叶斯文本分类方法

第1页

你可能喜欢

热门文档

相关文档

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email