文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 工程科技 > 信息与通信 > 基于机器学习的文本分类技术研究进展
侵权投诉

基于机器学习的文本分类技术研究进展

文本自动分类是信息检索与数据挖掘领域的研究热点与核心技术,近年来得到了广泛的关注和快速的发展.提出了基于机器学习的文本分类技术所面临的互联网内容信息处理等复杂应用的挑战,从模型、算法和评测等方面对其研究进展进行综述评论,认为非线性、数据集偏斜、标注瓶颈、多层分类、算法的扩展性及Web页分类等问题是目前文本分类研究的关键问题,并讨论了这些问题可能采取的方

维普资讯 doc.guandang.net

1 5 80

J un lo ot r o r a f Sf e软件学报 V 1 7 No9 e t e 0 6 wa o., .,Spe r2 0 1 mb

12表示空间降维 .相关研究主要集中在降维的模型算法与比较,征集与分类效果的关系,特以及降维的幅度 3个方面 .

关于降维的模型和算法,很多研究仍按照传统的思路: )用概率统计方法度量并比较项关于类别分布的 ( 1显著性, B (i oma sp rt n[等; )从信息熵角度研究项分布相似性的项聚类方法,如 NSb— r l e aai ) J ( n o 9 2如基于全局信息 ( )o; )隐含语义分析途径, GI i等 ([1 3即通过矩阵的不同分解和化简来获取将向量语义或统计信息向低维空间压缩的线性映射,差量(i ee t 1 S[,1 .如 df rni ) I 12一些新颖的研究思路包括: )多步骤或组合的选择方法, f l a L 11等 ( 1即首先用基本的特征选择方法确定初始的特征集,然后以某种标准(R 0考虑其他项与初始集特征的同

现 (oo cr n e c— cur c1 e 等【进行特征的补充,¨)或者综合其他因素(如依第 2种显著性选择标准[,1 11或考虑线性分类器系数值大小【 34 等 )行冗余特征的删减; )尝试借鉴语言学技术进行的研究有从手工输入的特征中学习特征信息【及基于进 ( 2 Wod t的特征提取等方法, rNe[】但方法所产生的效果都不理想 . 必须考虑降维对分类的影响,关注分类器效果指标随特征数目增加的变化趋势艮多文献中[ 11 1比即 9 4 89 -,,]

较一致的现象是:合理的降维方法会使多数分类器都呈现出随特征数量增加,果快速提高并能迅速接近平稳:效 但若特征数目过大,能反而可能出现缓慢降低 .表明:维不仅能大量降低处理开销,且在很多情况下可性这降而

以改善分类器的效果 .oma F r n及 Y n a g等人分别从有效性、区分能力及获得最好效果的机会等方面对不同的特征选择方法进行了广泛比较.结果来看:NS,等统计量及组合方法具有一定的优势;从 B I G另外,同分类器倾不向于接受不同的特定降维方法[1 1 1. 9 89常用的特征提取与特征选择算法的效果在不同情况下互有高低或相,,,】 3当[m2. I '虽然选择方法因为复杂度较低而应用更为广泛, .们但提取得到的特征更接近文本的语义描述,因此有很 大的研究价值.

降维尺度的确定常用经验估算方法,给定特征数的经验值( F )比例 ( HR;如 P C或 T )或者考虑统计量阈值 ( MVS或向量空间稀疏性(P等因素 .o c ) S A) S uy给出特征数与文本数成比例 (C ) P S的方法,并在精度标准下与其他 4种方法做了比较,出了 MVS P> P P C T得> CS S A> F> HR的结论 _,统的标准值得重新审视 . 2传”

1机器学习分类方法 . 3分类方法研究的主要目标是提高分类效果,实用的系统还必须兼顾存储和计算能力受限等条件下,习过学程的可扩展性和分类过程的吞吐率(速度 )】【 . 2近年来,用多( lpe分类器集成学习(n e l lann )采 mut l) i e smbe erig的 方法被普遍接受;支持向量机(VM)

而 S仍然代表了单重(ige方法的发展水平. s l) n S VM的应用是文本分类近年来最重要的进展之一.然 S M在大数据集上的训练收敛速度较慢,虽 V需要大量的存储资源和很高的计算能力[-8但它的分隔面模式有效地克服了样本分布、冗余特征以及过拟合 2 2, 4 1 (vrft g等因素的影响,有很好的泛化 (e eaiain能力 .关文献的比较均显示:对于其他所有方 o e—t n ) ii具 g n rl t ) z o有相法,VM占有效果和稳定性上的优势[_】年来又有很多文献[]未涉及的一些模型或方法被提出或应用, S 弛. 8近 1中

有的还获得了较好效果,大熵模型[,1如最 33、模糊理论[,1 34 33、项概率分布的 K D相似性【、二维文本模型[ 56 L 5 1 1以及基于等效半径的方 ̄ ( E T L )等( ̄ S C IE[】见表 1,它们仍局限于惯用的相似性度量的分类模式 . )但 B ys a e、线性分类、决策树及 kNN等方法的能力相对较弱,它们的模型简单,率较高, -但效这些方法的修正和改进引起了人们持续的关注.指出分类器关于数据分布的假设是影响分类效果的重要因素, Wu当模型不适合数据集特点时,能就可能变得很糟糕.性这种模型偏差在弱分类方法中尤为突出,他给出了一种灵活的基于错误矫正的启发式改进策略【( S方法将样本聚集成不同的实例集( sac e) 2; GI i tn est每个实例集的质心称为推广实 n,例( )以 GI的集合代替样本集合后减少了实例, GI,使得 kNN方法的在线速度大为改善,类效果也有所提 -分 高【 T a利用与 G S相反的思路,增加类别的数目,质上为原类别选择多个质心,分地克服了单个质心 j sy; I他实部

难以适应样本稀疏的弱点[ T n使用推拉 ( r g p s ig策略对 Ba e粥;a da—u hn ) y s和基于质一 0的方法进行了改进 - C a rb r j h ka at; i的 SMP方法利用 Fse I L i r线性判别分析将文本表示投影到低维空间后,进行决策树的构 h再造 l可以看出,数分类模型和方法的研究,侧重在特定测试集上效果基本相当的

情况下, 2 .多更获得计算开销上 相对 S M的优势 . V

基于机器学习的文本分类技术研究进展

上一页第3页

你可能喜欢

热门文档

相关文档

  • 基于机器学习的文本分类技术研究进展

    E-mail: jos@iscas.ac.cn http://www.jos.org.cn Tel/Fax: +86-10-62562563 基于机器学习的文本分类技术研究进展苏金树 1, 张博锋 1+, 徐昕 1,2 1 ...

  • 基于机器学习的文本分类技术研究进展_苏金树

    E-mail: jos@iscas.ac.cn http://www.jos.org.cn Tel/Fax: +86-10-62562563 基于机器学习的文本分类技术研究进展苏金树 1, 张博锋 1+, 徐昕 1,2 1 ...

  • 基于机器学习的文本自动分类研究进展

    (南京师范大学地理信息科学江苏省重点实验室,南京210097) 摘要 文本自动分类是目前最常用的文本信息自动处理技术,也是机器学习、自然语言处理和信息检索领域的 研究热点...

  • 基于机器学习的文本分类技术的研究

    ; 2. 解放军理工大学指挥自动化学院计算机系 ,江苏 南京 210007) 摘要 : 基于机器学习的文本分类是近年来信息检索领域的热门研究技术 , 并且取得了较大进展 。...

  • 【论文】基于机器学习的文本分类方法综述

    基于机器学习的文本分类方法综述_专业资料。文本分类是信息检索与数据挖掘领域的核心技术,是机器学习领域新的研究热点。本文对现有的基于机器学习的文本分类方法进行...

  • 基于机器学习的文本分类技术的研究

    队,江苏南京210007;2.解放军理工大学指挥自动化学院计算机系。江苏南京210007) 摘要:基于机器学习的文本分类是近年来信息检索领域的热门研究技术,并且取得了较大进展。...

  • 【论文】基于机器学习的维吾尔文文本分类研究

    基于机器学习的维吾尔文文本分类研究_专业资料。随着Internet上维吾尔文信息的迅速发展,维吾尔文文本分类成为处理和组织这些大量文本数据的关键技术。研究维吾尔文文本分类...

  • 基于机器学习的文本分类研究

    吴科 申请学位级别:博士 专业:计算机软件与理论 指导教师:吕宝粮 20080501 基于机器学习的文本分类研究摘要随着信息技术尤其是因特网相关技术的发展与成熟,人们可...

  • 基于机器学习的文本分类方法

    基于机器学习算法的文本分类方法综述摘要: 文本分类是机器学习领域新的研究热点。...文本分类方法, 讨论了各种 方法的优缺点,并指出了文本分类方法未来可能的发展...

  • 基于机器学习的文本分类算法研究

    苏德富 20070601 10于机器掌习的文事分兵算法研究 基于机器学习的文本分类算法研究 摘要 随着计算机技术、数据库技术、网络技术的飞速发展和I nternet 的日益普及,在...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email