文本分类中的两个关键问题,算法和特征提取。贝叶斯算法是最有效的文本分类算法之一,但是属性间强独立性的假设在现实中并不成立,借鉴概率论中的多项式模型提出了一种改进型的贝叶斯方法;传统的特征抽取方法有词频法、互信息法、CHI统计、信息增益法等,然而上述方法对于词条的权重未作考虑,引进了权重的表征方式,给出了改进方法,由实验证明了通过以上方面的改进,文本分类
维普资讯 doc.guandang.net
() 1词语频率()词条在文档中出现代的概率 t: f () 2词语倒排文档频率( f:词语在文档集合中分布情 i)该 d 况的量化常用的计算方法是 lg( o斗0o)其中 N为文档集 .1,合中的文档数目;为出现过该词语的文档数目。 () 3归一化因子 (oma zt n fc r:对各分量进行标 n r l ai a t ) i o o 准化。
经网络 (或是 K N)结合。经过这些改进之后, N相分类正确率
得到了显著的提高。 () 2分类算法的实用范围不同,针对不同的语料环境,同不 算法的表现不尽相同,因而需要对症下药。不平衡,动态性, 丰富性构成了当今文本的特征。朴素贝叶斯算法在很多领域
里去得了成功,是因为其朴素但是又坚实的概率论基石,当然 其存在着缺陷,过两次改进之后,经其功效得到了提高。实验
目前存在多种" . F公式, II TD我们在系统中采用了一种比 较普遍的 T . FI DF公式
数据表明情况确实如此。
rt) t l (/+ 1 e,= (3 ft)两 Nn O ( ̄x g丽 . ), o , O/ 其中:rt r, '一 (词t在文本中的权重, f ,—词t文本 —在
4结束语 朴素贝叶斯算法因为其在多领域的成功使得它的应用范
中的词频,_训练文本的总数,I一训练文本集中出Ⅳ _ 现t的文本数,母为归一化因子。分 因而得到的改进 C I量如下计算 H增 eH ( C Ib
围非常之广,不同的环境中需要对语料的特点而进行适当的 改进,本文所提到的方法就是经过两次改进之后得到了很好 的效果。
概率论中还有很多很好的理论值得我们借鉴,这也是我们进一步研究的方向。
其中 C所表达的意义如下: HI Nx c C D一’+= D)口 (+ (+十 ) D)’ c
参考文献: 【】 Y n,i X. e a nt no x t o ztnm tos 1 agYLu A r xmia o fet a g r ao e d e i t ce i i h【】P oedns2n n ulnen t nl
C SGR C n c . rcei 2dA n a It ai a M I I o g r o A
frne n eerhad vl metnI om t n er vl eee sac n e p n f r ai tea oR De o i n oR i (IIp 9,9 9 2 9 SG R 9)19 . - . 44【】 Ngm Mcau ,h .s t 1 et l s ct nf m 2 ia cl nA K T Bn, . x ca i ao o l i e aT s f i r i l ee a l cmetuig M【】Ma h e eri, a l B u be d u ns s Z. ci ann b d nn do nE nL g 2 01 5 1 . 00 . 3 - 78
【】 Jne V B y s nnt rs n eio rp s【 . e 3 e snF . a ei e k ddc i gah M]N w a wo a sn Y r: pr g r 2 0 . ok S i e, 0 1 n
【】 K eti,hvd,ht cay a, . rv met o 4 er S e ae KB aahry ea I o e ns hS S S t C t1mp t pap MO a o t fr V c s e ei【 . erl lts t S l rh o M l i r s n J N ua g i m S s i a f d g】 C m u tn 2 0, () 3 - 9 o p t i,0 1 33: 76 . ao 1 6 4【】 T oQi,u eri, i- n, 1 h xm l ri 5 a n SnD - n a J s g t . emaia ma n g a F n n o e aT g l e rca sf rb s d o h o t c in o e co e o v x i a lsi e a e n t e c nr t ft l s d c n e n i a o h
hlJ J unlf otae2 0, (: 44 9 u【 _ora oSfw r, 021 3 4 -0 . l】 3 )0 【】 Ki YI t S y o .y a c aei tok d o- 6 m S, o, a D nmiB ys n w r n mo Min S n a e n a n p r mer g e s n fr o l e d l go g n e2wo k aa ti r r s i n i a mo ei f e e t r s ce o on nr n n Dte a st a 1 N B I D NB 1 CN D B
f m me e e n pes n
a[] oetI l C m u r t r s ee x rs o t C . vr,a o p - o i si g e i da R o ty t f n l to si y tmsBi lg, is ne n t n lWo k a o a h d n S se o o yF r t tr a i a r - i Me I o s o 2 03 1 4- 1 h p, 0 .0 1 3.
D1 D 2 D3
I 1 l
7.% 23 6.% 52 6.% 21
f l I
7.% 8 2 7 .% 0 2 6 .% 5 4
f l I
8.% 1 3 7 .% 5 6 7. 3 6%
D 4 D5
I 1
6. 3 4% 6.% 73
I l
6.% 9 7 7.% 46
I l
7.% 6 3 7. 9 4%
【】孙丽华. 7 一种改进的 K NN方法及其在文本分类中的应用[. J】应用科技,0 2 92:5 8 20, () - . 2 44
【】朱寰. 8 文本分割算法对中文信息过滤影响研究【 . J计算机工程] 与应用, 023(3: -9 2 0, 1) 63 . 8 3 【】何新贵 .文本的关键词自动抽取和模糊分类【】 9 中文 J中文信息 _ 学报,9 9 1) 1 4 19, 3: - . ( 2 2
【O 1】郭炜强,文军,文贵华.基于贝叶斯模型的专利分类【I J_计算机 工程与设计,0 5 68: 8.9 7 20, () 9 618 . 2 1
【1 1】余刚,陈华月,朱征宇,基于词同现频率的文本特征描述【.等. J】计算机工程与设计, 052 () 102 . 20, 8: -12 6 28 8【2 1】寇莎莎,魏振军.自动文本分类中权值公式的改进 f. J计算机】 工程与设计,0 5 66:661 1. 20, () 1 6 8 2 1 ——
4 4 78-—

基于贝叶斯的文本分类方法研究_IT/计算机_专业资料。基于贝叶斯的文本分类方法研究山西大学 硕士学位论文 基于贝叶斯的文本分类方法研究 姓名:史瑞芳 申请学位级别:...
2006 基于贝叶斯的文本分类方法罗海飞, 吴摘 刚, 杨金生 ( 上海交通大学 软件学院,上海 200240) 要: 文本分类中 的两个关键问题 , 算法和特征提 取。贝叶斯...
55 贝叶斯文本分类方法研究石洪波 王志海 黄厚宽 [ 摘 ] 朴素贝叶斯分类器是当前流行的一种文本分 要 类算法 , 它的简易性使其适合于处理属性个数较多的分类...
2007 一种改进的贝叶斯文本分类方法张玉芳, 陈剑敏, 熊忠阳 ( 重庆大学 计算机学院, 重庆 400030) 摘要: 朴素贝叶斯分类 ( na ive B ayes) 有一个 “独立...
浅析贝叶斯方法在文本分类中的应用_专业资料。贝叶斯分类算法是基于贝叶斯全概率公式的分类算法,是一种简单有效的分类方法.本文系统的介绍贝叶斯分类算法的原理及...
分类算法是针对Wb e 文本分类而提出的一种基于简单贝叶斯文本分类方法,它利用了简单贝叶斯分类的基本原理,大大简化了构造贝叶斯网络的复杂性;又 引用了潜在语义分析的...
基于朴素贝叶斯的文本分类算法摘要:常用的文本分类方法有支持向量机、K-近邻算法和朴素贝叶斯。其中朴素贝叶斯具有 容易实现,运行速度快的特点,被广泛使用。本文详细...
基于朴素贝叶斯的文本分类_互联网_IT/计算机_专业资料 暂无评价
集,并将估计出的参数的平均值作为训练得到的参数对未知文本进行分类.公共文本实验数据集上的实验结果表明,该文提出的训练方法相对于传统的朴素贝叶斯分类器训练方法...
一种基于改进贝叶斯算法的Web文本分类方法_专业资料。针对基于互补贝叶斯的分类算法在数据倾斜分布时由于过学习现象导致分类准确度不理想的状况,提出一种改进的互补...
热门文档