文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 工程科技 > 信息与通信 > 特征选择算法综述
侵权投诉

特征选择算法综述

自20世纪90年代以来,特征选择成为模式识别和机器学习领域的重要研究方向,研究成果十分显著,但是也存在许多问题需要进一步研究。本文首先将特征选择视为特征集合空间中的启发式搜索问题,对特征选择涉及的四个要素进行了阐述,然后从各个角度对特征选择算法进行了分类,概述了其各个分支的发展态势,最后探讨了基于多目标免疫优化的特征选择方法的研究思路。

第 1 9卷第 9期 V0 .9 1 1 No 9 .

电子设计工程 E e to i sg n i e rn l cr n c De in E gn e i g

2 1年 5月 01 M a .2 1 y 01

特征选择算法综述 计智伟,胡珉,尹建新 (.江农林大学信息工程学院,江临安 3 10; .海大学悉尼工商学院,上海 2 0 7 ) 1浙浙 13 0 2上 0 0 2摘要:自 2 0世纪 9 0年代以来,特征选择成为模式识别和机器学习领域的重要研究方向,究成果十分显著,是也研但存在许多问题需要进一步研究。本文首先将特征选择视为特征集合空间中的启发式搜索问题,特征选择涉及的四对

个要素进行了阐述,然后从各个角度对特征选择算法进行了分类,述了其各个分支的发展态势,后探讨了基于多概最 目标免疫优化的特征选择方法的研究思路。 关键词:征选择;特征子集;索;多目标优化特搜中图分类号: P 8 T 1文献标识码: A文章编号:17— 26 2 l )9 0 4— 6 6 4 6 3 (0 10— 0 6 0

A ur e ff a u e s l c i n l o ihm s v y o e t r e e to a g rt J h— i,HU n,YI in xn I i Z we Mi N Ja -i’

(. c olfI o t nE gneig Z e agA r u ua adFrs yU&e i Ln n 13 0 C ia 1 Sh o o n r i nier, hj n gi l rl n oet n ̄@, i' 3 10, hn; f ma o n i ct r a 2 Sh o o Sd e s t eo L n ug C mm re S ag a U& ni S ag a 2 0 7, i ) . c ol y nyI tu ag ae& o ec, hn hi n e@, h h i 00 2 C n f n it f n h a Ab t a t e t r ee t n h s b e n i o tn e e r h a e n p t r e o n t n a d ma h n e r i g sn e 9’ o s r c:F a u e s lc i a e n a mp r t s a c r a i a t n r c g i o n c ie la n n i c 0 S f o a r e i t e 2 t e t r . e t c iv me t a e b e

c i v d,h we e n r b e e i o b n o v d a d n e u t e h 0 h c n u y Gr a h e e n sh v e n a h e e a o v rma y p o lmsr man t e u s l e n e d f rh r i v si ai n I h sp p r e f s d s rb e t r ee t n i e mso e rsi e r h t r u h t e s a e o au e s t, n e t t . n t i a e,w rt e c e f au e s l ci tr f u t s a c o g p c f e t r es g o i i o n h i e h h f d s u sn h o r fc o s i e t r s lc in a g r h, e ls i ma y p p l r f au e ee t n a g r ms fo ic s i g t e f u a t r n f au e ee t lo t ms t n ca sf o i h y n o u a e t r s lc i l o t o i h r m d f r n on s o iw a d i t d c e e a mb a c me t e t r e e t n a d te d v l p n . a t e d s u s i e e t i t fve n n r u e s v r l p o e rn h n so f au e s l ci n e e o me t Atls,w ic s f o h

tersac o gt e aueslco grh ae nm l-bet eimu eot zt nm to . h erht u h o anwf tr et na oi m b sdo utojc v e h f e e i l t i i m n p mi i ehd i ao Ke o d:etr lco;etrs u st sac; l- jci p mi i yw r s faues et n fa e be; erh mu i bet eof z o e i u s to v i m n

特征选择 ( a r slc o )为一种常见的降维方法是 f t e eet n作 eu i模式识别的研究热点之一。它是指从原始特征集中选择使某种评估标准最优的特征子集。目的是使选出的最优特征子其

多而急剧增加【1因此,择好的特征不仅可以减小计算复 l。 - 4选

杂度,高预测精度,且有助于寻找更精简的算法模型。提而 2

大规模数据处理问题的不断出现,信息检索,传基因 )如遗 分析等。谓大规模。方面指样本数目的庞大。一方面所一另

集所构建的分类或回归模型达到和特征选择前近似甚至更 好的预测精度。不但提高了模型的泛化能力、理解性和这可

指描述样本的特征维数高。3随着应用领域的不断扩大, )所遇到的数据类型也将不断变化。因此,征选择算法的设计特 需要适应新的数据类型。正是由于上述原因,征选择的研特究成为模式识别和机器学习领域的重要课题 .具有重要的它

计算效率,同时可降低“度灾难”维的发生频率。 在机器学习领域中 .征选择被认为是跟学习算法紧密特联系的一个问题,表述为:定一个学习算法 L、个数据可给一集 S S来自一个特征 X, 2X,…,具有类别标记 Y的, l,3 X X的

学术意义和实用价值。

符合分布的样本空间。则一个最优特征子集 X p是使得某 ot 个评价准则 JJ L S最优的特征子集。因此,领域的学者 _(,)该认为特征选择的结果应该用学习算法来评价。 特征选择作为统计学领域的经典问题,自上个世纪 6 0 年代起就有学者对此进行了研究;时,也是机器学习领同它

1特征选择作为搜索问题的 4个要素 一

般而言 .征选择可以看作一个搜索寻优问题。对大特

小为 n的特征集合,搜索空间由 2一“1种可能的状态构成。 D ve等证明最小特征子集的搜索是一个 N ai s P问题l,除了 S即 l穷举式搜索,能保证找到最优解。实际应用中,不但当特征数

域的重要问题: 9自 O年代以来,征选择的研究引起了机器特 学习领域众多学者前所未有的重视。主要原因有以下三方

目较多的时候,穷举式搜索因为计算量太大而无法应用,因 此人们致力于用启发式搜索算法寻找次优解。一般特征选择

面:)多学习算法的性能受到不相关或冗余特征的负面影 1许 响。大多数学习算法所需训练样本的数目随不相关特征的增 收稿日期:0 1 0— 8 2 1-

1 2稿件编号: 0 1 19 2 10 0 5

算法必须确定以下 4个要素: )索起点和方向; )索策 1搜 2搜

基金项目:家自然科学基金 (0 7 0 2;国 69 0 8 )国家自然科学基金 (07 19; 5 7 8 0 )浙江省自然科学基金项目( 0 0 7、 39 0 1 3 8 4 7 Y1 87 7Y 0 0 6、 0 0 5 ) Y作者简介:智伟 (9一)男,江嘉兴人,士。研究方向:工智能与模式识别。计 18,浙硕人 -

4 6-

特征选择算法综述

第1页

你可能喜欢

热门文档

相关文档

  • 特征选择算法综述

     特征评估函数 "  停止准则  特征选择算法综述优特征子集是由若干个预测能力较强的特征组成的 0D2 相反  在 E()@@6( 方法中  用后续的学习算法...

  • 特征选择算法研究综述

    第20卷第2期2007年4月 模式识别与人工智能PR&AI V01.20Apr No.22007 特征选择算法研究综述*毛勇1周晓波2 夏 铮1 尹 征1310027) 孙优贤1 1(浙江大学信息...

  • 【论文】特征选择算法综述及进展研究

    20年第1卷第 6期 o80 总第 9期 3 巢湖学 院学 报 Juom oCah 0lg fhouC1ee No6.o.O20 ..1.08V1Gee SrN09 nrei .3 特征选择算法综述及进展研究 卜...

  • 特征选择常用算法综述

    特征选择常用算法综述 Posted on 2011-01-02 14:40 苍梧 阅读(11252) 评论(11) 编辑 收藏 1 综述 (1) 什么是特征选择 特征选择 ( Feature Selection )也称...

  • 【论文】基于支持向量机的特征选择算法综述

    基于支持向量机的特征选择算法综述_互联网_IT/计算机_专业资料。第1 5卷第 1期 201 4年2月 信息工程大学学报 Journal of Information Engine第...

  • 特征选择算法综述及基于weka的性能比较

    特征选择算法综述及基于weka的性能比较_自然科学_专业资料。关于特征选择算法数据挖掘中的特征选择算法综述及基于 WEKA 的性能比较陈良龙 (湖南大学信息科学与工程学院...

  • 特种选择算法综述

    特种选择算法综述_互联网_IT/计算机_专业资料。特种选择算法综述 1 简介特种选择作为一种常见的降维方法,是模式识别的研究热点之一。它是指从 高维的原始特征提取...

  • 特征选择综述

    特征选择综述_电力/水利_工程科技_专业资料。完整的介绍特征选择的意义及方法归类,同时也包含各个方法的比较。特征选择常用算法综述一.什么是特征选择(Featureselection...

  • 特征选择算法研究综述

    第20卷第2期2007年4月 模式识别与人工智能PR&AI V01.20Apr No.22007 特征选择算法研究综述*毛勇1周晓波2 夏 铮1 尹 征1310027) 孙优贤1 1(浙江大学信息...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email