文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 自然科学 > 基于模拟退火遗传算法的贝叶斯分类
侵权投诉

基于模拟退火遗传算法的贝叶斯分类

是某种基因组合,它决定了个体形状的外部表现。因此,在一开始需要实现从表现型到基因型的映射即编码工作(如二进制编码)。初代种群产生之后,按照适者生存和优胜劣汰的原理,逐代演化产生出越来越好的近似解。在每一代,根据问题域中个体的适应度大小挑选个体,并借助于自然遗传学的遗传算子进行组合交叉和变异,产生出代表新的解集的种群。这个过程将导致种群像自然进化一样的后生代种群比前代更加适应于环境,末代种群中的最优个体经过解码,可以作为问题近似最优解[4]。

(2)改进的模拟退火遗传算法

模拟退火遗传算法的基本思想:将遗传算法与模拟退火算法相结合构成一种混合优化算法。遗传算法的局部搜索能力较差,但把握搜索过程总体的能力较强;而模拟退火算法具有较强的局部搜索能力,并能使搜索过程避免陷入局部最优解,但它对整个搜索空间的了解不多,不便于使搜索过程进入最有希望的搜索区域,从而使得模拟退火算法的运算效率不高。但如果将遗传算法和模拟退火算法相结合,互相取长补短,则有可能开发出性能优良的新的全局搜索算法。

遗传算法可以对模拟退火算法做以下改进[8]:采用动态调节近邻子集的方法,利用以下公式确定近邻子集的容量M的大小:M=α×(fmax favg)。fmax为最大适应度值,favg为平均适应度值,α为系数。这样在算法前期,fmax与favg相差较大,因此此时取近邻子集的容量较大,在算法后期,fmax与

计算表达式如下:

(pc1 pc2)(f' favg)

,f'≥favg (2) pc1

fmax favgpc=

p,f'<favg c1

(pm1 pm2)(fmax f)

,f≥favg (3) pm1 fmax favgpm=

p,f<favg m1

式中,pc1=0.9,pc2=0.6,pm1=0.1,pm2=0.001,f'为

f为要变异个体的适应要交叉的两个个体中较大的适应度值,

度值。

(6)个体模拟退火操作

用适应度作为模拟退火遗传算法中的能量,对算法中的近邻子集采用动态调节的方式选取:M=α×(fmax favg)。当适应度值增加时,接受该解作为下一个当前解,否则,以一定的概率p=exp (-△fitness/T)接受该解,即

1, p= f fi

exp(i+1 T

fi+1≥fifi+1<fi

(4)

其中,fi+1为子个体的适应度值,fi为父个体的适应度值,温度T由随着算法进程递减其值的控制参数担当。 (7)选择操作

在群体中选取优胜的个体,淘汰劣质的个体的操作称作选择。根据染色体适应度值的大小选择适应性更强的染色体生成新的种群。因此适应度值越大,被选中的概率就越大。本文采用轮盘赌选择法。

(8)终止条件

若经过若干代运算后,仍没有满足用户给定阈值的规则,则结束,输出结果。

(9)算法

1)采用分层随机取样方法将数据库分成训练集、验证集和测试集;

2)随机生成S个随机属性子集;

采用3)将S个随机属性子集对应的NBC作为初始种群,

遗传算法优选;

4)调整λ,重复步骤3)。

算法中,所谓分层随机抽样,就是从每个类的实例中随机抽样,以便结果集中实例的类分布与初始集大致相同,这种方法常常比简单随机取样有更好的精度评估[10]。另外,每

自一代遗传群体中适应度最好的5%个体不参加交叉和变异,

动保留到下一代。

favg的差别越来越小,近邻子集的容量也随之变小。通过动

态地调节近邻子集的大小,可以使搜索在更有效的范围内进行,提高算法的运行效率。

(3)编码方式

本文采用传统的二进制编码方式,每条染色体由一组二进制位构成,长度为数据库中随机属性的个数,每个二进制位依次与数据库中的一个属性相对应。若某个二进制位为1,则表示数据库对应的属性参与构建朴素贝叶斯分类器。这样,每个染色体事实上就对应着一个朴素贝叶斯分类器。

(4)适应度函数

适应度通常用来度量群体中各个个体在优化计算中有可能达到或接近于找到最优解的优良程度。适应度函数是用来评估个体的适应度,即区分群体中个体好坏的标准。衡量朴素贝叶斯分类器分类效果除了分类精度要高之外,还应考虑分类误差在实例空间中的分布程度,即差异度[9]。

本文适应度函数设为

F=R+λD (1) 式中,R为NBC在验证集上的分类精度,D为NBC在验证集上的差异度,λ为决定差异度影响的系数。

(5)交叉操作和变异操作 本文采用两点交叉,即交换父本两个基因位中间的部分,产生相应的后代。为了避免早熟现象,采用自适应方法动态调节交叉概率和变异概率,使得交叉概率pc、变异概率pm能够随适应度自动改变[8]。当种群各个体适应度趋于一致或者趋于局部最优时,使pc和pm增加;而当群体适应度比较分散时,使pc和pm减少。同时,对于适应度值高于群体平均适应度值的个体,对应于较低的pc和pm,使该解得以保护进入下一代;而低于平均适应度值的个体,相对应于较高的pc和pm,使该解被淘汰掉。选取的交叉概率pc、变异概率pm ——220

3 实验

本实验所用的数据来自UCI机器学习数据库[11],该数据库是由加州大学欧文分校(University of California, Irvine, UCI)计算机科学与信息学院提供的(doc.guandang.net /~mlearn/MLRepository.html)。从中选择了:breast-cancer, kr-vs-kp,mushroom,vote等4个数据集,其中mushroom数据集包含2 480个空属性值、breast- cancer数据集包含9个空属性值,vote数据集包含382个空值属性。实验将首先对这些空属性进行数据补齐,然后对每个数据集,采用分层随机抽样,训练集数据占50%,验证集和测试集各占25%。

实验中,遗传种群的规模为100,遗传算法执行的最大代数为50。实验结果见表1。

上一页第2页

你可能喜欢

热门文档

相关文档

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email