文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 结合LSA的中文谱聚类算法研究
侵权投诉

结合LSA的中文谱聚类算法研究

传统的文本谱聚类需要的文本相似矩阵依赖于向量空间模型,忽略了词与词之间的语义关系,存在词频维数过高、计算代价高等问题。针对这些问题,提出了一种基于潜在语义分析(latent semantic analysis,LSA)的文本相似矩阵构造方法,利用奇异值分解(singular value decomposition,SVD)降维,在低维的语义空间表示文本,以此来提高同类文本间的语义相似度,并进行了相关对比实

第 2第 3期 7卷 21 0 0年 3月

计算机应用研究 Ap l ain Re e rh o mp tr pi t s ac fCo ues c o

Vo . 7 No 3 12 . Ma . 2 O r 01

结合 L A的中文谱聚类算法研究 S 熊忠阳,自强,暴李智星,张玉芳 (重庆大学计算机学院,重庆 404 ) 004 摘要:传统的文本谱聚类需要的文本相似矩阵依赖于向量空间模型,忽略了词与词之间的语义关系,在词存

频维数过高、算代价高等问题。针对这些问题,出了一种基于潜在语义分析 ( t te at nl i LA) 计提 1e m n c a s,S的 a ns ia ys文本相似矩阵构造方法,用奇异值分解 (igl a e eo psi,V )维,低维的语义空间表示文本,利 s u r l cm oi nS D降 n av u d t o在 以此来提高同类文本间的语义相似度,行了相关对比实验。在该实验中,并进改进方法的聚类效果要好于传统 的方法,而验证了改进方法的有效性和可行性。从

关键词:文本聚类;潜在语义分析;奇异值分解;聚类谱 中图分类号:T 3 1 P 9文献标志码:A 文章编号:10— 6 5 2 1 0—9 7 0 0 1 3 9 ( 0 0)3 0 1—2 di1 .9 9 ji n 10—6 5 2 1 .3 0 0 o:0 3 6/.s . 0 13 9 .0 0 0 .3 s

Re e r h o i e e s crlcu trn t S s a c fCh n s pe ta l se ig wih L A XI ONG o— a g, BAO— a Zh ng y n Ziqing,LIZh— i ixng,ZHANG Yu—a fng

( oeeo o p tr c ne hn qn nvrt, hn qn 00 4,C ia C lg C m ue Si c,C og igU i sy C ogig4 04 l f e ei hn ) Ab t a t r d t n ltx a l ssmi r y marx fr s e t lc u tr h a i ey o h e t rs a e mo e ih i n rs sr c:T a i o a e ts mp e i li ti p cr l se e vl r l n t e v c o p c d lwh c g o e i at o a y t e s ma t e ai n h p a n e ms t

w l g v s o p o l ms s c s c re o i n in l y e t r e u d n y a d h e n i r lt s i mo g tr .I i i e r e t r b e u h a u s fd me s ai,fau e r d n a c n c o l i o t h g o ui g c s.T ov h r b e b v,t i a e r p s d a n w t o a e n L A o s le i w ih u e ih c mp t o t o s le t e p o l ms a o e h sp p rp o o e e meh d b s d o S t ov t h c s d n ,

S o lw rn a k o t c s T e e p rme t lr s h u n o tt a t e n w meh d e h n e h l s r a c r c n VD t o e i g r n fmar e . h x ei n a e u s t r u h t h e t o n a c st e cu t c u a y a d i e l s h a ap o e s ea s d t . e st e d t - r c s l p e i me K e wor y ds: tx lse i e tcu trng; L A;S S VD;s c r lcuse pe ta l t r

义空间重新描述自然语言文本,从而可以更好地反映文本之间

0引言 聚类分析是模式识别和机器学习的重要研究领域。所谓聚类 (ls r g就是将数据对象分组成为多个类或簇 (ls r, c ti ) u en c t ) ue使得在同一簇中的对象之间具有较高的相似度,而不同簇中的对象差别较大。聚类分析在文本数据挖掘中有着非常重要的应 用,被广泛地应用于文本数据挖掘和信息检索等领域,以用来可

的语义相似度。

1 L A简介 S 文本数据的图表示模型对基于图的聚类算法最终的效果

具有重要的影响。在传统的基于关键词集的向量空间模型 中,本间的相似性取决于文档间的词汇特征的共现率。然文而,自然语言文本中普遍存在着同义词和多义词的现象,在 多义词的现象导致两篇包含很多共有词汇的文本并不一定

改进信息检索系统的查准率和查全率,也可用于查找最接近的文本,还可用于对 We b上的文本进行分层次的聚类等 -。传统 - J的聚类算法, K m asE等都是建立在凸

球形的样本空间如 . en、 M上,但当样本空间不满足凸形时,法容易陷入局部最优。谱聚算类算法(pcr ls r ga o tm)免了这个问题。该算法 set lc t i l rh避 a u e n gi 建立在图论中的谱图理论基础上,其本质是将聚类问题转换为图的最优划分问题。与传统的聚类算法相比,聚类算法将聚谱

很相似,同义词现象导致相似文本间可能并没有太多的共而现词汇,这就造成了词条的语义意义上的大量冗余。这样, 基于词条特征空间的文档表示有时并不能很好地反映文档 之间的语义相关性,且文本数据的向量空间表示模型中,而

样本都具有几千几万的维度,法仅处理这些高维数据就需算 要花费大量时间。针对文本的这一特点,S 利用奇异值 LA

类转换为一个代数上的矩阵求解问题,具有能在任意形状的样 本空间上聚类且收敛于全局最优解的优点。

分解 ( V技术对高维的词条一文档矩阵进行处理,潜在 S D)在的语义结构子空间中重新表示文本及文本问的相似度,同时达到降维的目的。其数学描述如下:

由于谱聚类算法起源于谱图理论,当把它应用于文本聚类时,如何抽取文本特征来表示文本成为一个首要问题。传统的思路是使用基于关键词集的文档向量表示模型,但是这种方式 忽略了词与词之问的语义关系,在词频维数过高、存聚类算法

设词条一文档矩阵 X是个 mx矩阵,中 m为词条数, n 其 n 为文本集的文档数。令 k<<mn m, ) rn ( i( n, k A)=rk<r a,。

计算复杂度高等问题,往往并不能准确描述文档间的语义相关性。潜在语义分析 ( S技术则可以在一个低维潜在概念语 L A) 收稿日期:20 . 8 1 0 90—0;修回日期:2 0 .9 0 0 90 .7

经过奇异值分解,矩阵可表示为三个矩阵的乘积,如下: =

SV DT

( 1)

作者简介:熊忠阳(9 4 )男, 16 -,博导,主要研究方向为数据挖掘、数据库、并行计算、网络信息处理;自强 (9 3 )男,士研究生,暴 18 .,硕主要研究 方向为文本分类、互联网应用技术 ( az in13@ 13 cl)李智星 (9 5 )男, b oi ag 24 6 . ot; q r 1 8一,博士研究生,主

要研究方向为文本分类、互联网应用技术; 张玉芳(9 7 )女,导, 16一,硕主要研究方向为数据挖掘、数据库、并行计算、网络信息处理.

结合LSA的中文谱聚类算法研究

第1页

你可能喜欢

热门文档

相关文档

  • 结合LSA的中文谱聚类算法研究

    结合LSA的中文谱聚类算法研究_计算机软件及应用_IT/计算机_专业资料。结合LSA的中文谱聚类算法研究第27 卷第 3期2010年3月 计算机应用研究ApplicationResearchof...

  • 基于图划分的谱聚类方法的研究

    基于图划分的谱聚类方法的研究 谱聚类算法已得到机器学习领域的广泛关注,其算法思想来源于谱图理论,通过矩阵的特征分解获得数据的低维嵌入,并用于后续聚类中。介绍...

  • 基于LSA和PLSA的网页聚类算法研究

    基于LSA和PLSA的网页聚类算法研究_自然科学_专业资料。基于LSA和PLSA的网页聚类算法研究2008年第4期 计算机系统应用 基于LSA和PLSA的网页聚类算法研究Researchof We...

  • 基于LSA降维的RPCL文本聚类算法

    文本聚类中权重计算的对偶... 7页 1财富值 几种文本特征降维方法的比... 3页 2财富值 结合LSA的中文谱聚类算法研... 2页 2财富值 多语言文本聚类研究...

  • 【论文】考虑空间格局的谱聚类算法及其应用

    考虑空间格局的谱聚类算法及其应用_天文/地理_自然科学_专业资料。第3 4卷第 5期 201 3年 1 0月 河南科技大学学报 :自然科学版 Journal of Henan Unive ...

  • 【论文】基于LSA降维的RPCL文本聚类算法

    基于LSA降维的RPCL文本聚类算法_专业资料。文本聚类中,存在诸如文本特征空间维数巨大、聚类的数目不能事先确定等问题。隐含语义分析方法可以对文本特征空间作降维处理...

  • 基于蚁群聚类算法的中文本体学习

    05基于STC的中文文本聚类算... 6页 免费 结合LSA的中文谱聚类算法研... 2...刘柏篙 高济 面 向知识 网格 的本体学习 研究 计算 机工程 与应 = #β ...

  • 谱聚类算法综述

    计算机科学2008voL35№.7 谱聚类算法综述*)蔡晓妍戴冠中杨黎斌 (西北工业大学自动化学院 西安710072) 摘要谱聚类算法是近年来国际上机器学习领域的一个新的研究...

  • 基于改进LSA的文档聚类算法

    在下一步的工作中 , 我们将继续研究该聚类算法的聚类 速度 . 其次 , 我们还... 结合LSA的中文谱聚类算法... 暂无评价 2页 1.00 文本聚类中的改进特征...

  • 基于模糊理论的谱聚类算法研究与应用

    江南大学 硕士学位论文 基于模糊理论的谱聚类算法研究与应用 姓名:高倩 申请学位级别:硕士 专业:计算机应用技术 指导教师:戴月明 20090801 摘要 摘要谱聚类是近几年...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email