一种改进的朴素贝叶斯文本分类方法

英语 期刊 贝叶斯

第27卷　第3期2007年　5月

河北大学学报(自然科学版)

JournalofHebeiUniversity(NaturalScienceEdition)

Vol.27No.3

May2007

一种改进的朴素贝叶斯文本分类方法

梁宏胜1,2,徐建民1,成岳鹏1

(1.河北大学数学与计算机学院,河北保定　071002;2.河北大学校园规划处,河北保定　071002)

　　摘　要:朴素贝叶斯分类器是一种简单有效的文本分类方法.改进方法利用同义词对文本的特征词集进行过滤,在一定程度上放松了朴素贝叶斯的特征独立性假设;在特征选择时迭代了2种不同的特征选择方

法,有效地提高了特征集的代表性.实验结果表明,本方法有效地提高了朴素贝叶斯分类器的性能.

关键词:文本分类;朴素贝叶斯;特征抽取;同义词中图分类号:TP391　　　文献标识码:A　　　文章编号:1000-1565(2007)03-0327-05

AnImprovingTextCBayes

LIANGHong21,2Yue2peng1

(1.CollegeofUniversity,Baoding071002,China;

2.,HebeiUniversity,Baoding071002,China)

Abstract:Na veClassifierisasimpleandpowerfulmethodfortextclassification.Ourimprovedmethodusessynonymstofiltratethefeaturesoftext,loosingtheindependentconditionrequiredbyBayesianmethod.Weapplytwodifferentfeatureextractionmethodsintheiterationprocess,enhancingtherepresenta2tiveabilityoffeaturecollectioneffectively.Theexperimentalresultsshowthatouradvancedmethodhasobvi2ouslyimprovedtheperformanceofNa veBayesianClassifier.

Keywords:TextCategorization;Na veBayes;Featureextraction;Synonyms

文本分类是信息处理领域重要的研究方向之一,其目标是在分析文本内容的基础上,给文本分配1个或多个比较合适的类别,从而提高文本检索、文本存储等应用的处理效率.目前,较为著名的文本分类算法有Rocchio、贝叶斯、KNN、决策树、SVM等.朴素贝叶斯分类器(Na veBayesianClassifier)是目前公认的一种简单有效的概率分类方法,在某些领域中表现出很好的性能,但是它的属性独立性假设使其无法表示现实世界属性之间的依赖关系,影响其分类性能.本文讨论了一种改进的朴素贝叶斯文本分类方法,通过弱化独立性假设及提高特征集的代表性来改善分类性能,并将其与朴素贝叶斯文本分类器进行了实验比较.

1　相关知识

1.1　文本分类

文本分类系统的任务是:在给定的分类体系下,根据文本的内容或属性,将大量文本归到1个或多个类

　收稿日期:2006-06-06

　基金项目:河北省科学技术研究与发展计划(04213534)

　作者简介:梁宏胜(1972-),男,河北保定人,河北大学工程师,主要从事信息检索、不确定性信息处理方向研究.