DL笔记：机器学习和深度学习的区别

via The Difference Between AI, Machine Learning, and Deep Learning? | NVIDIA Blog

Nvidia 博客上的这张图很好表示了 AI, Machine Learning, Deep Learning 三者的关系。人工智能是一类非常广泛的问题，机器学习是其中一个重要领域和手段，深度学习则是机器学习的一个分支。在很多人工智能问题上，深度学习的方法突破了传统机器学习的瓶颈，因而影响力迅速扩大。

什么是机器学习？

00 试着翻出一些机器学习相对权威的定义，看看它们有什么共同点：

简单来说，就是机器通过一系列「任务」从「经验」（数据）中学习，并且评估「效果」如何：

为什么叫做「学习」呢？一般编程语言的做法，是定义每一步指令，逐一执行并最终达到目标。而机器学习则相反，先定义好输出，然后程序自动「学习」出达到目标的「步骤」。

机器学习可以分为：

• 监督学习：给出定义好的标签，程序「学习」标签和数据之间的映射关系

• 非监督学习：没有标签的数据集

• 强化学习：达到目标会有正向反馈

机器学习擅长做什么？

当然是替代重复的人工劳动，用机器自动从大量数据中识别模式——也就是「套路」啦。知道「套路」后，我们可以干嘛呢？

• Classification 分类，如垃圾邮件识别(detection, ranking)

• Regression 回归，例如股市预测

• Clustering 聚类，如 iPhoto 按人分组

• Rule Extraction 规则提取，如数据挖掘

比如垃圾邮件识别的问题，做法是先从每一封邮件中抽取出对识别结果可能有影响的因素（称为特征 feature），比如发件地址、邮件标题、收件人数量等等。然后使用算法去训练数据中每个特征和预测结果的相关度，最终得到可以预测结果的特征。

算法再强大，如果无法从数据中「学习到」更好的特征表达，也是徒劳。同样的数据，使用不同的表达方法，可能会极大影响问题的难度。一旦解决了数据表达和特征提取问题，很多人工智能任务也就迎刃而解。

为什么需要深度学习？

但是对机器学习来说，特征提取并不简单。特征工程往往需要人工投入大量时间去研究和调整，就好像原本应该机器解决的问题，却需要人一直在旁边搀扶。

深度学习便是解决特征提取问题的一个机器学习分支。它可以自动学习特征和任务之间的关联，还能从简单特征中提取复杂的特征。

下篇笔记预告：神经网络的概念

Ref

• What is Machine Learning: A Tour of Authoritative Definitions and a Handy One-Liner You Can Use - Machine Learning Mastery

• 机器学习 (豆瓣)

• Tensorflow：实战Google深度学习框架 (豆瓣)