朴素贝叶斯文本分类模型是一种简单而高效的文本分类模型,但是它的独立性假设属性使其无法表示现实世界属性之间的依赖关系,从而影响它的分类性能。这里提出一种改进的基于贝叶斯定理的文本分类模型——“树桩网络(Stump Network)”,并将该方法与朴素贝叶斯文本分类器和TAN(Tree Augmented Naive Bayes)文本分类器进行实验比较,结果表明,在大多数数据集上该文本分类方法
维普资讯 doc.guandang.net
第2 3卷第 1期 20 0 6年 2月
邢台职业技术学院学报 J un l f n ti o ain l n e h ia l g o r a Xiga c t a a dT c nc l o V o Col e e ,
Vb.3 No 1 1 2 . Fe . O 6 b 2 o
一
种改进昀贝叶斯本疾模型 王潇,胡 鑫
(西北师范大学数学与信息科学学院,甘肃兰州 707 ) 300摘要:朴素贝叶斯文本分类模型是一种简单而高效的文本分类模型,但是它的独立性假设属性使其无法表示现实世界属性之间的依赖关系,从而影响它的分类性能。这里提出一种改进的基于贝叶斯定理的文本分类模型——“树桩网络 ( tm ew r ), Su pN tok’并将该方法与朴素贝叶斯’文本分类器和 T N( reA ge tdN ieB y s文本分类器进行实验比较,结果表明,在大 A T e u mn e av ae )多数数据集上该文本分类方法具有较高的分类正确率。 关键词:文本分类;树桩网络;朴素贝叶斯; T N A中图分类号{T I P 8文献标识码:A 文章编号:1o—6 2 20 ) 1 09_ 3 0 8 19( 06 O—o 1_ o 引言文本分类是中文信息处理的一个重要研究领域,其目标是在分析文本内容的基础上,给文本分配一个或多个比较合适的类别,从而提高文本检索、文本存储等的处理效率。目前较为著名的文本分类方法有 B ys L F V ae、L S、S M、K N、决策树等。本文主要讨论一种改进的贝叶斯文本分类模型——“ N树桩网络 (t p e ok” S m N t r),实验表明,其分类效果相对于传统的贝叶斯文本分类方法有所提高。 u w 二、向量空间模型在向量空间模型 ( S V M)中,文档被看作一系列无序词条的集合,对每个词条加上一个相应的权值, 一
、
将文档映射为一个特征向量 () w ( );, )其中为词条项, ) =(, 1; r w ( ), … w (为在 d中的权值。 所选用的词条项权值计算方法为 T - F公式: FI D () l o () =+ .) 01 o
其中,
() 表示词条在文档 d中出现的频率, N表示全部样本文档的总数,表示包含词的
文档数。关键词的权值度量着重于那些区分文档类别属性的关键词。每一类的特征向量表示完成后。即完成
向量空问模型的建立,待分类文档用同样的方法得到其特征向量,文本转化为向量形式并经特征提取后,便可以进行分类挖掘了。 三、基于贝叶斯定理的文本分类贝叶斯文本分类模型是一种典型的基于统计方法的分类模型。贝叶斯定理是贝叶斯理论中最重要的个公式,是贝叶斯学习方法的理论基础,它将事件的先验概率与后验概率巧妙的联系起来,利用先验信息和样本数据信息确定事件的后验概率。 令{,,,Ⅳ C ) W。 W:. W,是离散随机变麓的有限集, . .其中,,. .,是属性变量, . 类变量 C的取 一
值范围 Cc,,,w是属性的值。为{12.,)』 .C . 取文档d=w,2. )类c的率, f【l,,属于,概可由贝斯 w . .叶 定理表示为: p:.,.
’
pc)pw,2. , (f (1,, I)。 w .w c . .
() 1
其中w,2.是词汇表中的词,是正则化因子, (,是类 c的先验概率, (,w,, w) 1,. w ., p c), p c1 w . l 2. ., 是类 c的后验概率,先验概率独立于训练样本数据,而后验概率反映了样本数据对类 c的影响。 依据概率的链规则,式 ( )可以表示为: 1 收稿日期:2 o— 1- 2 05 1 2
作者简介:王潇 (9一) 18,女,河北省定州市人,西北师范大学数学与信息科学学院硕士研宄生。 1 9

2006 一种改进的贝叶斯文本分类模型王 潇, 胡鑫 (西北师范大学 数学与信息科学学院,甘肃 兰州 730070) 摘要:朴素贝叶斯文本分类模型是一种简单而高效的文本分类...
朴素贝叶斯文本分类模型是一种简单而高效的文本分类模型。提出一个新的评价函数,即互信息差值.将其用于改进的贝叶斯文本分类模型“树桩网络”。结果表明.在大多数数据...
1. 1 朴素贝叶斯分类器及独立假设 贝叶斯文本分类模型是一种典型的基于统计方法的分类模型[ 3 ] , 它利用先验信息和样本数据信息来 确定事件的后验概率。令论域...
一种改进的贝叶斯网络结构学习分类模型及应用_机械/仪表_工程科技_专业资料。第3 O卷第 3期 201 3年 3月 计 算机应 用 与软件 Computer Applications and ...
一种改进的朴素贝叶斯文本分类方法_专业资料。朴素贝叶斯分类器是一种简单有效的文本分类方法.改进方法利用同义词对文本的特征词集进行过滤,在一定程度上放松了朴素...
一种改进的朴素贝叶斯文本分类方法_文学_高等教育_教育专区。英语 期刊 贝叶斯...因为 :1) 互信息是在统计语言模型中被广泛采用[ 6 ] ,且大量的研究表明采用...
云计算环境下的一种改进的贝叶斯文本分类算法_张琳_互联网_IT/计算机_专业...第4节介绍了如何在云 /第5节通过 计算平台上 通过Mduc e模型实现该算法;...
一种基于改进贝叶斯算法的Web文本分类方法_专业资料。针对基于互补贝叶斯的分类...讨论普通文本与Web文本的不同,建立一种带有主题权重的文档向量模型,并分析主题权...
贝叶斯模型在垃圾文本分类中的应用研究_数学_自然科学_专业资料 暂无评价
(共 15 个大类 , 244 个小类 ) ,该改进比原来的加权方法提高 了分类效果... China) 1 文本分类中的简单贝叶斯模型 文本分类属于有指导的机器学习 , 它...
热门文档