文档下载 文档下载导航
设为首页 | 加入收藏
搜索 请输入内容:  
 导航当前位置: 文档下载 > 所有分类 > 工程科技 > 信息与通信 > 人工智能的新浪潮——深度学习
侵权投诉

人工智能的新浪潮——深度学习

》》》詹子界

人工智能的新浪潮

深一个.度,又于学●习

李艺颖国防科学技术大学计算机学院 【摘要】深度学习 ( D。叩k r h 1 g )作为一种基于人工神经网络的无监督学习方法,是近年来兴起的一种新的混合机器学习模型,现成为人工智能领域中炙手可热 的研究技术。深度学习带来了机器学习的一个新浪潮,受到学术界和工业界的广泛重视,并带来大数据的深度学习时代。本文结合大数据时代的具体需求,详细阐述了深度学习的发展和应用,突出了其在人工智能领域的重要地位。 【关键词】人工智能;深度学习;大数据时代;机器学习 1 .引言

何的信息损失,即在任何一层 Si,它都是原有信息 (即输入 I )的另外一种表示。现

令矩阵该层权重矩阵的修正矩阵 A m为零矩阵,偏置向量的修正向量 m为零向量。 2 )设有,, 1个训练样本,对于每一个训练样本 f= 1到 m。 ①调用反向传播算法函 ̄b a c k w a r d st r a n s 0 计算训练自编码网络的准则函数J ( W城。 )的梯 _

近年来,深度学习逐步推动了人工

智能领域的新浪潮。2 0 l 0年,美国国防部在回到我们的主题 D e e p L e a r n i n g,我们需 D A R P A计划首次资助深度学习项目;2 0 1 1年要自动地学习特征,假设我们有一堆输入 I 来,微软和 G o o g l e研究人员先后采用深度学习技术降低语音识别错误率2 0% 3 o%,取得该领域重大突破;2 01 3年百度创始人兼 C E O李彦宏高调宣布成立百度研究院,其第 一

(如一堆图像或者文本 ),假设我们设计了一个系统 S (有n层 ),通过调整系统中

的参数,使得它的输出仍然是输入 I,那么我们就可以自动地获取得到输入 I的一系列层次特征,即s 1,…, S n。 另外,前面是假设输出严格地等于输入,这个限制太严格,我们可以略微地放松这个限制,例如我们只要使得输入与输 致另外一类不同的D e e p L e a r n i n g方法。 ( 2 ) D e e p L e a r n i n g的常用方法 A u t o E n c o d e r(自编码 ),自编码算法

度“

, 豇 )和V , ( ,峨盂 .勇 )。

②计算 A’ V , ( , 6, i,羹 )+△ “’。 ③计算 A V J (惦, )+ 3 )更新权重系数: W( 0 - a f (△ m)+ 1 wm】 埘

个重点方向就是深度学习;2 0 1 3年4月, 《麻省理工学院技术评论》杂志将深度学

习列为2 0 1 3年十大突破性技术之首。在今天,G o o g l e、百度、微软等知名高科技公 高点。

司争相投入资源,占领深度学习的技术制出的差别尽可能地小即可,这个放松会导 2 .大数据时代的深度学习大数据时代迫切需要深度学习。为了说明这个观点,本文来谈一下浅层学习和深度学习模型。 浅层模型有个重要特点一一靠人工经 验来抽取样本特征,而强调模型主要是负

( ):【 f 1

一

a【 ( A m)】

4 )反复迭代上面过程直到达到要求。 训练得到的神经网络最靠近输出层的隐藏

是一种基于神经网络算法的无监督学习算法,它使用了神经网络中经典的反向传播 算法,其特殊之处在于其目标在于让神经网

层的输出值即为深度学习后自动得到的新特征 i’ 通过上面的学习训练,我们便可以得

责分类或预测。所以,特征提取就成了整个系统性能的瓶颈,通常开发团队中更多的人力是投入到构造更好的特征上去的, 这就要求开发人员对待解决的问题有很深入的理解。而达到这个程度,往往需要反

络的输出节点的输出值等于网络的输入值, 如在下面具有一个隐藏层 (一般自编码算法中会有多个隐藏层 )的神经网络中,我们应使得目标输出= t,扣l… 2 6,自然地,其输出 节点数目与输入节点的数目应该相等。同时,

到一个具有深度学习功能的自编码网络。 当我们需要自动提取数据包用户数据的特征l‘时,仅需要去掉上面的自编码网络的原来的输出层,将原来最靠近输出层的隐藏层作为新的输出层,再将初始的特征向量输入 i,此时的网络输出即为自动提取的

自编码算法的另外一个特征是隐藏层的节点数

复摸索。因此,人工手动构造样本特征, 不是一个具有生命力的途径。 深度学习的实质,是通过构建具有很多隐层的机器学习模型和海量的训练数

目一般少于输入输出节点的数目。这样的意义特征 E’。 在于,此时相当于将输入的特征通过神经网络 4 .总结的非线性变换到节点数更少的隐藏层,再由隐近年,深度学习被逐渐应用到语音识 藏层通过非线性变换“无损”地恢复出输入的信息,这样实际上相当于用神经网络实现了对于高维特征向量的一个特征提取和降维。如果别、图像识别、自然语言处理等领域,总之,深度学习带来了机器学习的一个新浪潮,受到从学术界到工业界的广泛重视,

据,来学习更有用的特征,从而最终提升分类或预测的准确性。区别于传统的浅层 学习,深度学习的不同之处在于:一是强调了模型结构的深度,通常有 5层、6层,

输入数据中隐含着一些特定的结构 .比如某 并带来大数据的深度学习时代。深度学习

些输入特征是彼此相关的,那么这一算法就在应用方面的深度和广度都将会得到更高程度的发展。同时,如果机器学习理论界甚至1 0多层的隐层节点;二是明确突出了可以发现输入数据中的这些相关性。由此, 特征学习的重要性,即通过逐层特征变用这种特殊的神经网络对样本进行学习和训取得突破,为深度学习提供强力的支撑, 换,将样本在原空间的特征表示变换到一练,我们即可“自动地”得到输入数据的降使之成为今后无论何种机器学习应用都不个新特征空间,使分类或预测更加容易。 3 .深度学习的基本思想和常用方法 ( 1 ) D e e p L e a r n i n g的基本思想 假设我们有一个系统s,它有n层 ( S 1, …

维后的特征,即隐藏层的节点,省去了人得不采用的基石,那么,人工智能的梦想将不再遥远。 工特征提取的麻烦。 ( 3 )自编码算法的实现过程 =

(,…, 6 I )

参考文献:

S n ),它的输入是 I,输出是 0,形象地

表示为:I:> S l=> S 2=>…. .:> s

n=> 0,如果

(或i; ( . t ) )作为自编码算法的输入, 即上面特征向量的每一个分量代表自编码网络中的一个输入节点。令其输出节点的期望类别向量赋值为= ., r(或= t , 2 ) )。 1 )对于自编码网络中某一层,,,= l… 2. .,

【 1】周志华,李航,朱军. D e叩工七 a r n坩 - g大家谈盯】 .

圈卢鸫 . D N N与微软同声传译系统背后的故事Ⅱ】 . 【 3】潘越,蒋丹宁.深度学习与认知计算印. [ 4] De e p L e a mi n g ̄ .度学习相关入门文章汇摘[ o L】 . h t t p:// dc n d t s . c o n ̄ r? p=1 8 5 4 .

输出0等于输入 I,即输入 I经过这个系统变化之后没有任何的信息损失,保持了不变 性,这意味着输入 I经过每一层 s i都没有任

一

3 2一 闷文 芬

人工智能的新浪潮——深度学习

第1页

你可能喜欢

  • 人工智能学习
  • 人工智能
  • 深度学习
  • 商业智能
  • 智能车
  • 多元智能
  • 智能推荐

热门文档

相关文档

  • 人工智能的新浪潮_深度学习_李艺颖

    人工智能的新浪潮_深度学习_李艺颖_计算机软件及应用_IT/计算机_专业资料。》》》 电子世界 投稿邮箱:wysjzzs@163.com 人工智能的新浪潮——深度学习李艺颖 国防科...

  • 人工智能的新浪潮--深度学习

    人工智能的新浪潮--深度学习_林学_农林牧渔_专业资料 暂无评价0人阅读0次下载举报文档 人工智能的新浪潮--深度学习_林学_农林牧渔_专业资料。...

  • 深度学习——机器学习的新浪潮

    深度学习——机器学习的新浪潮_计算机软件及应用_IT/计算机_专业资料。深度学习简介...深度学习及其应用:机器... 83页 1下载券 人工智能的新浪潮——深... 暂无评...

  • 深度学习: 推进人工智能的梦想

    深度学习带来了机器学习的新浪潮,推动“大数据+深度模型”时代的来临,以 及人工智能和人机交互大踏步前进。如果我们能在理论、建模和工程方面突破深度 学习面临的一...

  • 【论文】深度学习:深度学习:推进人工智能的梦想

    深度学习:深度学习:推进人工智能的梦想_教育学/心理学_人文社科_专业资料。 今日...教你怎么升级导航地图 新导航地图安装说明80份文档 家装材料选购攻略 ...

  • 深度学习-机器学习的新浪潮

    深度学习-机器学习的新浪潮_互联网_IT/计算机_专业资料。我们到了需要重新思考“...深度学习研究综述 5页 免费 深度学习: 推进人工智能... 6页 免费...

  • 深度学习:机器学习的新浪潮

    深度学习:机器学习的新浪潮_计算机硬件及网络_IT/计算机_专业资料。深度学习:机器学习的新浪潮 Kai Yu Deputy Managing Director, Baidu IDL Machine Learning “…...

  • 引入深度学习的人工智能类课程_李睿凡

    引入深度学习的人工智能类课程_李睿凡_信息与通信_工程科技_专业资料。第 19 期...人工智能的新浪潮——深... 暂无评价 1页 0.50 深度学习: 推进人工智能...

  • 【论文】深度学习让计算机学会思考逐步朝人工智能靠近

    深度学习让计算机学会思考逐步朝人工智能靠近_计算机硬件及网络_IT/计算机_专业资料...深度学习复兴:向人工智... 0人阅读 2页 3.00 人工智能的新浪潮——深....

  • 【论文】深度学习复兴:向人工智能迈进

    深度学习复兴:向人工智能迈进_互联网_IT/计算机_专业资料 暂无评价

站点地图 | 文档上传 | 侵权投诉 | 手机版
本站所有资源均来自互联网,本站只负责收集和整理,均不承担任何法律责任,如有侵权等其它行为请联系我们.
文档下载 Copyright 2013 doc.guandang.net All Rights Reserved.  -  email