查看原文
其他

模型优化:如何加快学习!深度学习之父的神经网络第六课(中文字幕)

2017-05-03 晋阳、三川 AI研习社

作为深度学习祖师,Geoffrey Hinton 的每一句每一言,都使学习者如奉纶音。浓缩其毕生所学的《Neutral Network for Machine Learning》,则是唯一一门 Hinton 老师系统讲授的公开课。

自 2012 年开课,NNML 就一跃成为深度学习开发者的殿堂级慕课。时隔五年,仍然是内容最“干”、最值得学习的深度学习课程。

如果说吴恩达的《Machine Learning》是最佳入门课程,描述 NNML 则只需两个字: “必修”——对于有志于真正掌握深度学习的人而言。

它很难,但也因此没有做任何“dumb down”——为照顾小白而牺牲“厚度”,把原本并不单纯的原理硬以简单的类比表述出来,是几乎所有深度学习课程不得不做的妥协。

但这门课没有。

本栏目将在AI研习社(公众号:okweiwu)每周一、周三更新,敬请关注!

  Lecure 6

模型优化:如何加快学习!

https://v.qq.com/txp/iframe/player.html?vid=h0399xxmmt0&width=500&height=375&auto=0

  内容简介

第六节介绍了随机梯度下降法(SGD),并且介绍了加快学习速度的动量方法(the momentum method)、针对网络中每一个连接的自适应学习步长(adaptive learning rates for each connection)和RMSProp算法。这几个算法的难度很大,需要反复推理思考,并在实践中摸索以加深理解。


往期课程

教程| 1.1为什么要学习机器学习?

教程 | 1.2 神经网络机制中的脑科学原理

教程 | 1.3 简单的神经元模型

教程 | 1.4:ANN 的 MNIST 学习范例

教程 | 1.5:机器学习算法的三大类

教程 | Hinton 机器学习视频中文版:神经网络架构介绍(2.1)

教程 | Hinton 机器学习视频中文版:神经网络架构介绍(2.2)

教程 | Hinton 机器学习视频中文版:感知器的几何空间解析(2.3)

教程 | Hinton 机器学习视频中文版:感知器的原理透析(2.4)

教程 | Hinton 机器学习视频中文版:感知器的局限性(2.5)

Geoffrey Hinton | 深度学习之父的神经网络第三课!

教程 | Geoffrey Hinton 机器学习第四课(中文字幕)

Geoffrey Hinton | 深度学习之父的神经网络第五课!(中文字幕)

--------------------------------------------------

为了让广大 AI 青年们不再为英语所累,快速进入学习状态,雷锋网旗下 “AI 研习社” 推出了深度学习之父 Geoffrey Hinton 的《Neutral Network for Machine Learning》中文系列视频课程。PS: 出于对 Hinton 知识成果的尊重以及版权的需要,AI 研习社已经获得了 Hinton 教授的亲自授权。


雷锋字幕组致力于为 AI 从业者们提供最专业的 AI 相关视频内容。目前,雷锋字幕组已经与全球范围内多所高校包括多伦多大学、伦敦大学学院等达成课程内容汉化授权协议。如果您对我们的工作内容感兴趣,欢迎添加微信 “iIoveus2014”,备注 “Hinton” 加入我们!


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存