文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 高等教育 > 工学 > 人工神经网络论文2
侵权投诉

人工神经网络论文2

人工神经网络论文

2.2.3三层BP网络设计需要考虑的问题

在进行BP网络的设计时,应从网络的层数、每层中的神经元数、初始值及学习速率等几个方面考虑。 1) 网络的层数

已经证明:三层BP网络可以实现多维单位立方体Rm到Rn 的映射,即能够逼近任何有理函数。这实际上给了一个设计BP网络的基本原则。增加层数可以更进一步降低误差,提高精度,但同时也使网络复杂化,从而增加网络权值的训练时间。而误差精度的提高实际上可以通过增加隐含层的神经元数目来获得,其训练结果也比增加层数更容易观察和调整。所以一般情况下,应优先考虑增加隐含层的神经元个数。 2) 隐含层的神经元数

网络训练精度的提高,可以通过采用一个隐含层而增加神经元数的方法来获得。这在结构的实现上要比增加更多的隐含层简单的多。在具体设计时,比较实际的做法是隐含层取输入层的两倍,然后适当地加上一点余量。评价一个网络设计的好坏,首先是它的精度,再是它的训练时间。时间包含两层含义:一层是循环次数,二是每一次循环所花的时间。 3) 初值权值的选取

由于系统是非线性的,初始值的选取对于学习是否达到局部最小,是否能够收敛以及训练时间的长短有很大关系。初始值过大、过小都会影响学习速度,因此权值的初始值应选为均匀分布的小数经验值,一般取初始权值在(-1,1)之间的随机数,也有选取在[-2.4/F, 2.4/F]之间的随机数的,其中F为输入特征个数。为避免每一步权值的调整方向是同向的,应将初始值设为随机数。 4) 学习速率

学习速率决定每一次循环中所产生的权值变化量。快的学习速率可能导致系统的不稳定。但慢的学习速率导致较长的训练时间,可能收敛很满,不过能保证网络的误差值跳出误差表面的低谷而最终趋于最小误差值。所以在一般情况下,倾向于选择较慢的学习速率以保证系统的稳定性。学习速率的选择范围在0.01-0.8之间。

如同初始权值的选取过程一样,在一个神经网络的设计中,网络要经过几个不同的学习速率的训练,通过观察每一次训练后的误差平方和∑e2 的下降速率来判断所选定的学习速率是否合适,若∑e2下降很快,则说明学习速率合适,若∑e2出现振荡现象,则说明学习速率过快。对于每一个具体网络都存在一个合适的学习速率,但对于较复杂网络,在误差曲面的不同部位可能需要不同的学习速率。为了减少寻找学习速率的训练次数和训练时间,比较合适的方法是采用变化的自适应学习速率,使网络的训练在不同的阶段自动设置不同的学习速率。一般说,学习速率越快,收敛越快,但容易振荡;而学习速率越慢,收敛越慢。 5) 期望误差的选取

在网络的训练过程中,期望误差值也应当通过对比训练后确定一个合适的值。所谓“合适”,是相对所需要的隐含层的节点数来确定,因为较小的期望误差要靠增加隐含层的节点以及训练时间来获得。一般情况下,作为对比,可以同时对两个不同期望误差的网络进行训练,最后通过综合因素的考虑来确定采用其中一个网络。

尽管含有隐含层的神经网络能实现任意连续函数的逼近,但在训练过程中如果一些参数选取合适,可以加快神经网络的训练,缩短神经网络的训练时间和取得满意的训练结果。对训练过程影响较大的是权系数的初值、学习速率等。

1) 调整量与误差成正比,即误差越大,调整的幅度就越大。

2) 调整量与输入值的大小成正比,由于输入值越大,在这次学习过程中就显得越活跃,所

以与其相连的权值的调整幅度就应该越大。

3) 调整量与学习系数成正比。通常学习系数在0.01-0.8之间,为使整个学习过程加快,又

上一页第8页

你可能喜欢

  • BP神经网络原理
  • Matlab神经网络工具箱
  • 人工神经网络算法
  • 人工神经网络原理
  • 计算机人工智能论文
  • 人工神经网络综述
  • 人工神经网络应用
  • 算法大全

热门文档

相关文档

  • 【论文】二次回归分析人工神经网络

    二次回归分析人工神经网络_专业资料。在线性回归分析人工神经网络的基础上提出二次回归分析人工神经网络,用于解决二值非线性分类问题。...

  • 2012人工神经网络论文

    神经网络 论文 14页 免费 人工神经网络论文 25页 免费 人工神经网络论文2 13页 5财富值 神经网络论文集 58页 免费 人工神经网络论文 7页 5财富值...

  • 人工神经网络论文

    人工神经网络论文_教育学/心理学_人文社科_专业资料。人工神经网络及其应用 1....3)20 世纪 80 年代-90 年代:第二次研究高潮 进入 20 世纪 80 年代,神经...

  • 数据挖掘结课论文人工神经网络

    数据挖掘结课论文人工神经网络_管理学_高等教育_教育专区。今日推荐 ... 人工神经网络论文2 13页 2下载券 人工神经网络在数据挖掘... 4页 4下载券...

  • 智能控制导论论文(人工神经网络)

    人工神经网络论文2 13页 2下载券 人工神经网络课程论文 2页 2下载券...日期: 1 人工神经网络关键词:人工神经网络、产生、发展、应用 内容摘要: 人工...

  • 神经网络 论文

    神经网络论文2 5页 免费 BP神经网络预测模型论文 1页 免费 智能控制论文神经...图 1.3 典型的神经元网络结构 4 2. BP 神经网络人工神经网络是一种信息处理...

  • 【论文】二维水质模型横向扩散系数的人工神经网络模拟

    二 维水 质模型横 向扩散 系数 的人 工神 经 网络模 拟 龙腾锐 , 劲松 ...(庆大 学城 市建设与环境 工程 学院.庆404)重重005 摘 要: 将人工神经 网...

  • 【论文】大气SO2含量时间序列的BP人工神经网络预测模型

    大气SO2含量时间序列的BP人工神经网络预测模型_专业资料。基于某市1996~2008年大气中SO2含量数据,利用BP人工神经网络(ANN)方法,建立SO2含量变化的时间序列人工神经...

  • 人工神经网络 结课论文

    人工神经网络论文蔺子杰 10021225 人工神经网络模式识别具体的模式识别是多种多样的...2、大规模并行处理 人工神经元网络在结构上是并行的, 而且网络的各个单元可以...

  • 神经网络论文

    人工神经网络论文 25页 免费 神经网络_论文 14页 2下载券 神经网络论文 5页...中图法分类号 : P271 文献标识码 :A 土地适宜性评价的模糊神经网络模型焦...

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email