文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 自然科学 > 数学 > 基于局部加权的Citation-kNN算法 - 电子与信息学报201303
侵权投诉

基于局部加权的Citation-kNN算法 - 电子与信息学报201303

第35卷第3期 电 子 与 信 息 学 报 Vol.35 No.3 2013年3月 Journal of Electronics & Information Technology Mar. 2013

基于局部加权的Citation-kNN算法

黄剑华 丁建睿 刘家锋 张英涛

(哈尔滨工业大学计算机科学与技术学院 哈尔滨 150001)

摘 要:Citation-kNN算法对传统的kNN算法进行了改进,使其可以应用于多示例学习问题,但其0-1决策方式具有一定的局限性,没有充分考虑样本的分布情况。为解决该问题,该文提出局部加权的Citation-kNN算法,综合考虑样本的分布情况,提出基于样本距离加权、基于样本离散度加权的方法,并对各种组合情况进行了实验。在标准数据集MUSK和乳腺超声图像数据库上的实验结果表明,该文提出的方法与Citation-kNN相比,性能有明显提高,并具有良好的适应性。

关键词:图像识别;多示例学习;Citation-kNN;样本分布;局部加权

中图分类号:TP391.41 文献标识码: A 文章编号:1009-5896(2013)03-0627-06 DOI: 10.3724/SP.J.1146.2012.00016

*

Citation-kNN Algorithm Based on Locally-weighting

Huang Jian-hua Ding Jian-rui Liu Jia-feng Zhang Ying-tao

(School of Computer Science and Technology, Harbin Institute of Technology, Harbin 150001, China) Abstract: The Citation-kNN algorithm improves traditional kNN algorithm and can be applied to solve multi- instance learning issue. But its 0-1 decision strategy has some limitations. To overcome this issue, the locally-weighted Citation-kNN algorithm is presented in this paper. Considering distribution of the samples, the distance-based weighted method and the scatter-based weighted method are proposed. And their combinations are discussed. The method is applied to the standard database MUSK and the breast ultrasound image database. The results confirm that the method has higher accuracy comparing with that by using Citation-kNN algorithm. Key words: Image recognition; Multi-Instance Learning (MIL); Citation-kNN; Distribution of samples; Locally weighted

1 引言

1997年,Dietterich等人[1]在对药物活性预测问题的研究中,提出了多示例学习(Multi-Instance Learning, MIL)的概念。在传统学习框架中,一个样本代表一个示例,即样本和示例是一一对应的关系,同时示例的标签全部已知或者全部未知;而在多示例学习中,一个样本被定义为一个包,其中包含了多个示例,即样本和示例是一对多的对应关系,同时样本(包)的标签已知但是示例的标签未知。所以多示例学习中的训练样本的歧义性与传统学习中样本的歧义性完全不同,这使得传统学习方法难以解决多示例问题[2]。

文献[1]提出了APR (Axis- Parallel Rectangle)学习算法来解决多示例药物活性预测问题;Maron等人[3]提出了多样性密度(Diverse Density, DD)算2012-01-06收到,2012-12-31改回

国家自然科学基金(61073128, 61100097)资助课题 *通信作者:丁建睿 jrding@hit.edu.cn

法;Wang等人[4]提出了Bayesian-kNN 和 Citation -kNN两种算法;Zhang等人[5]将 DD算法与 EM 算法相结合提出了 EM-DD算法;Andrews 等人[6]对支持向量机进行了扩展,得到了多示例算法Bag- SVM和Inst-SVM。

在多示例学习概念和算法提出以后,已经在多

图像分类、个领域得到了成功应用,如:药物预测[1];

图像分割[8];视频中人的识别[9],股票选择[10];标注[7]、

索引网页推荐[11];显微镜下的肺癌细胞图像识别[12]等。

Citation-kNN算法通过结合惰性学习(lazy learning)和Hausdorff距离,对k-近邻算法进行了扩展,使其能够处理多示例学习问题,并在标准测试数据集MUSK上取得了良好的结果。但其所采用的0-1投票决策方式在实际应用中存在着一定的缺陷。因为在实际分类系统中样本库并不是分布在连续的空间中,并且样本也并不能均匀分布在包空间的任何一个角落,所以实际样本库缺乏足够的样本来表示完整的包空间。在这种不完全库所能表达的

第1页

你可能喜欢

热门文档

相关文档

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email