特征选择方法综述
为什么要解决正确有效的特征选择?
1、 在样本有限的情况下,用大量特征来设计分类器无论是从计算机开销还是从分类器
性能来看都不合时宜
2、 特征和分类器性能之间并不存在线性关系,当特征数量超过一定限度时,会导致分
类器性能变坏
特征获取过程
经典特征选择定义:从N个特征集合中选出M个特征的子集,并满足条件M<=N
特征提取 广义上是指一种变换,将处于高维空间的样本通过映射或变换的方式转换到底维空间,达到降维的目的
特征选择 从一组特征中去除冗余或不相关的特征来降维
二者常联合使用
要考虑特征子集的稳定性
特征获取的定义出了考虑对分类结果等的影响外,特征自身稳定性也是一个应该注意的因素,因此定义特征获取为获得尽可能小的特征子集过程,并满足不显著降低分类精度、不影响分类分布以及特征子集应具有稳定、适应性强的特点
特征获取方法分类
特征获取要解决的问题:
1、确定选择算法 在允许的时间内,以可以忍受的代价找出最小的、最能描述类别的特征组合
2、确定评价标准 衡量特征组合是否最优,得到特征获取操作的停止条件
分两步进行特征获取,产生特征子集,然后对子集进行评价,如果满足条件,则操作完毕,否则重复前述两步知道条件满足为止
按照特征子集形成方式分类:

穷举(exhaustion)法 遍历特征空间中所有特征的组合,选取最优特征组合子集的方法。假设特征个数为N时,计算复杂度为O(2的N次方)。常用的方法有回溯方法及其变体。优点在于一定能得到最优子集,但实际情况下由于特征空间过于庞大,时间耗费和计算复杂度太大,导致实用性不强
启发法(heuristic) 一种近似算法,具有很强的主观倾向。实际应用中通过采用期望的人工机器调度规则,重复迭代产生递增的特征子集。特征个数为N时,复杂度一般小于或者等于O(N的二次方)。这种方法实现过程比较简单而且快速,在实际中应用非常
特征选择方法综述_IT/计算机_专业资料。特征选择的介绍摘: 本文总结并提出了较为完备的特征提取定义 。根据特征子集形成过程将特征选择分为穷举式 、要 启发式和...
特征选择方法综述_计算机软件及应用_IT/计算机_专业资料。三十三维普资讯 http://www.cqvip.com C315/ N4-28TPIS10—3X SN 0710 计算 机 工程 与科 学...
2012 特征选择方法综述姚 旭, 王晓丹, 张玉玺, 权文 (空军工程大学 计算机工程系,陕西 三原 713800) 摘要: 特征选择是模式识别的关键问题之一, 特征选择结果的...
计算机工程与科学COMPUTERENGINEERING&SCIENCE 2005年第27卷第12期V01.27,No.12,2005 文章编号:1007—130X(2005)12—0068—04 特征选择方法综述A SurveyofFeatureS...
特征选择方法综述 图像的特征选择方法图像的特征选择方法隐藏>> CN43—1258/TPISSN1007—130X 计算机工程与科学COMPUTERENGINEERING&SCIENCE 2005年第27卷第12期V01...
分析化学的方法及方法选... 43人阅读 1页 0.50特征选择...特征选择算 法综述 计 智伟 ,胡珉 ,尹建新 (. 江农 林大学信息工程学院,...
特征选择方法综述 4页 免费 特征选择算法综述及基于we... 8页 免费 特征...2 特征选择过程 2.1 特征选择的一般过程 特征选择的一般过程可用图 1 表示。...
特征的提 取以及纹理特征的选择与融合,如GLCM与MRF的 融合,小波方法与MRF的...堪称经典的分类方法之一的是: 1979年,Haralick¨驯对纹理特征提取方法进行综述,...
TFIDF算法研究综述 7页 免费基于TFIDF的特... 的特征选择方法刘培 玉 , 朱振 方 , 东师 范大学信息科 学与 工程学院。...
热门文档