基于距离类中心最近分类器和朴素贝叶斯分
基于距离类中心最近分类器和朴素贝叶斯分
类器的投票规则
刘志杰 学号:mg0633026
(南京大学计算机与科学技术系 南京市 210093)
Voting Principle Based on Nearest kernel classifier and Naive Bayesian classifier Liu Zhijie
Abstract: This paper presented a voting principle based on multiple classifiers. This voting principle was based on the naïve Bayesian classification algorithm and a new method based on nearest to class kernel classifier that was proposed. The recognition ability of each classifier to each sample is not the same. A model of each classifier was obtained by the training on the train data, which acts as basis of the voting principle. After that, They were collected to make a decision according to the majority voting. The experiment shows that the presented voting principle achieves good performance for high recognition.
Key words: Voting principle; Multiple classifiers; Naive Bayesian classifier; Nearest kernel classifier
摘 要: 本文提出了一个基于多种分类器的投票规则。它基于一种新的距离类中心最近的分类算法和朴素贝叶斯分类算法。每种分类器对不同的模式的识别率不相同。每种分类器从训练集上训练所得的模型构成了投票规则的基础,最后的结论由相对多数投票决定。实验数据表明,该方法可以提高分类的准确率。 关键词: 投票规则;多分类器;朴素贝叶斯分类器;最近距离分类器
1 前言
分类技术有着非常广泛的应用,分类技术的核心是构造分类器,常见的分类器有决策树、神经网络、贝叶斯分类器等。但在使用过程中,单一的分类算法难以获得完全令人满意的性能,同时在分类中利用不同的分类器得到不同的分类结果,这些结果之间往往存在着很强的互补性[1][2]。因此通过把多个分类器的分类结果进行融合能有效的提高分类识别效果及增强识别系统的鲁棒性,因此目前多分类器融合方法得到了广泛的应用并成为了一个令人关注的热点[3]。
对分类器进行融合的简单方法就是进行投票表决,如多数票同意规则和完全一致规则等等。本文采用的分类器技术为朴素贝叶斯分类算法和最近距离分类算法。
在多种分类技术中,朴素贝叶斯分类器由于具有坚实的数学理论基础及综合先验信息和数据样本信息的能力,而且简单有效,所以得到了广泛的应用。但是,朴素贝叶斯分类器基于“独立性假设”前提,而现实世界中,这种独立性假设经常不满足,因此影响了朴素贝叶斯分类器的分类精确度。如果将属性间的依赖性考虑进来,放松独立性假设条件,就可以进一步扩展朴素贝叶斯分类器[4]。
本文提出了一种新的分类器算法,对于每一类,基于训练样本构造出类中心点的坐标。然后对每一个测试数据,求出它到每一类中心点的距离,其中距离最短的即为其分类,也即为测试样本到哪一类的中心最近,即属于那一类。
在本文中,第2部分介绍朴素贝叶斯分类算法在分类过程中的应用。第3部分介绍最近距离分类算法的应用。第4部分介绍在使用两种分类算法得出的结果之上进行处理并投票决定最后的分类结果。第5部分为
朴素贝叶斯分类器是一种应用基于独立假设的贝叶斯定理的简单概率分类器.更 精确的...参数估计[编辑]只要知道先验概率 和独立概率分布 ,就可以设计出一个贝叶斯分 类...
基于距离类中心最近分类器... 5页 免费 三种典型贝叶斯分类器的研... 7页... 计算机科学20V1095专刊) 03o3N. . ( 树扩展的朴素贝叶斯分类器的研究吴湘洲...
基于朴素贝叶斯分类器的手写体数字识别沈叶浙大宁波...的研究中已取得很多可喜 成就,但距实用还有一定距离...(Background) 字符识别处理的信息可分为两大类: 3...
文章将分为两个部分, 第一部分将介绍贝叶斯学习的相关理论(如果你对理论不感兴趣, 请直接跳至第二部分<<基于朴素贝叶斯分 类器的文本分类算法 (下) >>)。 ...
近七天成交量:13002份 进入机构主页 0.0分 (0人评价)暂无用户评价 我要...此种扩展朴素贝叶斯分类器满足两个条件:一是类结点是所有属性的父结点;二是每个...
基于朴素贝叶斯分类器的个人信用评估模型_专业资料。个人信用评估是金融与银行界研究的重要内容.论文研究了三种朴素贝叶斯分类器信用评估模型的精度.在两个真实数据集...
(cMAPx)称为最大后验概率 x)称为最大后验概率 然后我们就把x分到c 然后我们就把x分到cMAP类中 j∈(1,C) 朴素贝叶斯分类器一为一个有m 设x = ...
基于朴素贝叶斯分类器的简单手写体数字识别_计算机...样本X被指派到类Di,当且仅当p (X/Di) P (Di...8的误识率较高, 这是由于他们标准 特征向量距离...
对朴素贝叶斯分类器的讨论, 提出将贝叶斯方法应用于医学图像分割后的图像分 类...特征选择的标准是与其他特征距离的相似程度绝对值小, 且自身的标准差小, 通过...
1.贝叶斯定理在分类中的应用 2.朴素贝叶斯分类器 3.朴素贝叶斯文本分类算法 3.1.多项式模型 3.2伯努力模型 ? ? 分类(classification): 常常需要把一个事物分到...
热门文档