Vol.12No.1
JOURNALOFNANJINGNORMALUNIVERSITY(ENGINEERINGANDTECHNOLOGYEDITION)Mar,2012第12卷第1期2012年3月南京师范大学学报(工程技术版)
高维数据的特征选择研究
杨1杨,吕静2
(1.南京师范大学强化培养学院,江苏南京210046)
(2.南京师范大学计算机科学与技术学院,江苏南京210046)
[摘要]特征选择是机器学习的重要研究内容之一.相对于低维数据的特征选择而言,高维数据的特征选择更具挑战性,尤
因而吸引很多研究者的关注.高维特征选择问题称为稀疏建模问题,其目标是解决现有特征其是高维小样本的特征选择问题,
建模方法在高维特征空间失效的问题.本文对高维数据的特征选择研究成果进行了相应的总结和展望.
[关键词]高维数据,降维,特征选择
[中图分类号]TP311[文献标志码]A[1672-1292(2012)01-0057-07文章编号]
SomeStudiesonFeatureSelectionforHighDimensionalData
YangYang1,LüJing2
(1.HonorSchool,NanjingNormalUniversity,Nanjing210046,China)
(2.SchoolofComputerScienceandTechnology,NanjingNormalUniversity,Nanjing210046,China)
Abstract:Featureselectionisakeyissueinmachinelearningfield.Ascomparedwithfeatureselectionforlowdimen-sionaldata,featureselectionforhighdimensionaldataisachallengingtask,especiallyfeatureselectionissueforhighdimensionalsmallsizedata,somanyresearcherfocusonthisproblem.Inessence,thefeatureselectionproblemforhighdimensionaldataisregardedasasparsemodelingissue,whosetargetistosolvethefailureproblemoftheexistingfeaturemodelingmethodsonhighdimensionalfeaturespace.Therefore,inthispaper,wegiveasurveyofthefeatureselectionmethodsforhighdimensionaldata,andmeanwhileproposesomediscussionsonfuturework.Ourmainobjec-tiveistoprovideareferenceforreaderswhoareinterestinginthisresearchfield.
Keywords:highdimensiondata,dimensionalityreduction,featureselection
[1]降维是机器学习、数据挖掘和模式识别等研究领域的关键内容之一.降维技术包括特征抽取技
[2-4][1,5,6],术和特征选择技术其中特征抽取是通过一个变换将原高维空间映射到一个新的低维特征空间,特征选择是从原高维特征空间中选择相关且判别能力强的一个特征子集.特征抽取和特征选择的共同目标均是将高维空间降低到低维空间,以此来克服因高维数据带来的分类器的过拟合问题,进而增强其泛化性,改进其效率.
[2-4],已有研究成果表明,特征抽取可有效改进分类器的性能,受到研究者的广泛关注尤其是近年来研
LPP),究者提出的基于流形假设的局部保持投影方法(LocalPreservingProjections,更吸引了机器学习和
[4],且基于流形假设的思路还被有效地应用于半监督降维中.但基于变换的特征
抽取是将原特征空间降维到一个低维特征空间,那些不相关和冗余的特征均在降维过程中产生了作用,因模式识别专家的重视[3]而不可避免地影响分类器的性能,且在新的低维特征空间中特征失去原有的物理含义,因此其解释性差.
同时,在某些实际应用中,需要确切知道哪些重要的特征在预测中起到关键作用,显然这就是典型的特征选择问题.对于这类问题,采用特征抽取策略显然是不合适的,而特征选择方法的可解释性明显增强.为此,本文在介绍基于流形假设的特征抽取方法LPP之后,侧重对高维数据的特征选择研究进行综述,并对未来的研究进行展望.
01-08.收稿日期:2012-
基金项目:南京师范大学2010年学生科学基金(首批立项).
mail:05275@njnu.edu.cn通讯联系人:吕静,讲师,研究方向:模式识别理论与应用.E-
—57—
西安电子科技大学博士研究生学位论文 高维数据的特征选择与特征提取研究 作者:蒋胜利 导师:张军英教授 学科:计算机科学与技术 中国 西安 201 1年04月 —1 ● ...
面向高维数据挖掘的特征选择方法研究_IT/计算机_专业资料。高维数据特征选择,仅作学习交流使用中山大学 硕士学位论文 面向高维数据挖掘的特征选择方法研究 姓名:孙...
针对高维数据对象,特征选择一方面可以提高分类精度和效率,另一方面可以找出富含信息的特征子集。针对此问题,提出了一种综合了filter模型及wrapper模型的特征选择方法,...
9 . Sep. 2008 高维数据特征降维研究综述胡 洁 a, b, c (北京大学 a....降低特征维度从而提高给定任务效率的 方法 ,可以分为特征抽取和特征选择两种降维...
2008 高维数据特征降维研究综述胡 洁 a, b, c ( 北京大学 a. 视觉 与...局部降维是指对每个类别选择 若干个 最能识 别它的 特征作 为 新特征, 由...
高维数据挖掘中特征选择的稳健方法_数学_自然科学_专业资料。龙源期刊网 http:... 中医证候生物学基础研究... 20人阅读 3页 2.002014 Baidu 使用...
高维数据分类中的特征降维研究_专业资料。以高维分类为目标,从分类的准确率与模型解释性角度探讨了降维的必要性,分析了特征选择与抽取2类方法特点,并对常用的...
高维数据挖掘中特征选择的稳健方法_互联网_IT/计算机_专业资料 暂无评价
高维数据的特征选择研究 7页 1下载券 高维数据聚类方法综述 5页 免费...数据特征降维研究综述 胡 洁( 北京大学 a视 觉与听觉信息 处理 实验 室; ....
热门文档