【智库资讯】DARPA启动“终身学习机器”项目 推动第三次人工智能技术浪潮

查看原文

其他

【智库资讯】DARPA启动“终身学习机器”项目推动第三次人工智能技术浪潮

2017-03-31 人工智能学家 学术plus

本文转载自微信平台：人工智能学家

概要：DARPA计划启动“终身学习机器项目。

来源：搜狐

美国国防高级研究计划局（DARPA）网站3月16日报道，DARPA计划启动“终身学习机器”（Lifelong Learning Machines，L2M）项目，旨在发展下一代机器学习技术，并以其为基础推动未来人工智能（AI）发展。

项目背景

当前，人工智能在无人驾驶、机器人等民用和商业领域的应用日益广泛，在国防领域亦是如此，例如人工智能在网络安全和动态后勤规划等方面的应用。人工智能以机器学习技术为核心，并依赖于精巧的编程和庞大的数据支撑。但真实世界充满了偶然性，编程者无法预知所有可能出现的元素或面对的情景，而当这些机器学习系统遇到程序和数据库中并未包含的特殊情形时就会不知所措。如果想扩展机器学习系统在该新环境下的能力，必须停止其服务并利用额外的数据对其进行再训练，但这种做法依赖于人类的介入且效率较低。与此不同，生物系统能够实现自主训练，从过往经历中不断汲取经验，即使面对全新的环境也能根据积累的知识做出适应性调整。正因为如此，即使现阶段最先进的人工智能系统与具备自适应能力的生物智能相比依旧相差甚远，这也是DARPA开展L2M项目的初衷。

项目概况

L2M项目旨在发展类似于生物智能的具备自主持续学习能力的机器学习技术。L2M项目为期四年，重点关注两个技术领域。

第一个技术领域：开发可以持续从过往经验中学习，并将所学知识应用于新情况的机器学习机制，不断扩展自身能力并提高可靠性。以无人驾驶应用为例，这种新技术可使无人驾驶汽车能够从行驶过程中遇到的交通事故、视觉盲点等情形中学习相关经验，从而在遇到从未面对的新路况时能够应用学习到的经验有效应对，使无人驾驶车辆更加安全可靠。与此同时，DARPA还计划发展可监控机器学习系统行为的技术，对其可自适应调整的范围进行限制，并在必要时对其实施干预。这一领域的研究涵盖了网络理论、算法、软件以及计算机体系结构。

另一个领域是关于生物智能的学习机制，重点关注生物如何学习并获得自适应能力，同时研究这种生物学习的原理及技术是否能够应用于机器学习系统以及如何应用的问题。

两点认识

DARPA将以L2M项目为基础推动第三次AI技术浪潮。

DARPA认为AI技术的发展已历经第一次和第二次浪潮，即将迎来第三次浪潮。

第一次AI技术浪潮以“手工知识”为特征，典型范例如Windows操作系统、智能手机应用程序、交通信号灯使用的程序等。
第二次AI技术浪潮以“统计学习”为特征，典型范例如人工神经网络系统，并在无人驾驶汽车等领域取得进展。虽然上述AI技术对明确的问题有较强的推理和判断能力，但不具备学习能力，处理不确定问题的能力也较弱。
第三次AI技术浪潮将以“适应环境”为特征，AI能够理解环境并发现逻辑规则，从而进行自我训练并建立自身的决策流程。

由此可知，AI的持续自主学习能力将是第三次AI技术浪潮的核心动力，L2M项目的目标恰与第三次AI浪潮“适应环境”的特征相契合。通过研发新一代机器学习技术，使其具备能够从环境中不断学习并总结出一般性知识的能力，L2M项目将为第三次AI技术浪潮打下坚实的技术基础。

DARPA在推动AI技术发展的同时，强调对于AI技术的规范和限制。

人类对于人工智能技术安全性的思考由来已久，早在1950年出版的美国著名科幻小说家艾萨克·阿西莫夫撰写的《我，机器人》小说中就提出了著名的“机器人三大定律”：

第一定律，机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；
第二定律，机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；
第三定律，机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。

此后，“三定律”在科幻题材的小说、电影中大放光彩，并不断激发出对于人工智能安全性的新思考。

按照DARPA关于AI技术的发展思考，在第三次AI浪潮中，AI将具备自主学习能力，其终极形式必将会是具备自主意识的AI系统，到那时人类与人工智能之间的关系必须由普适、可靠的准则所定义，特别是在国防领域，否则极有可能出现科幻电影中描述的人机大战。

DARPA在L2M项目中明确强调，在提升AI技术水平的同时，确保其在预先制定的相关准则下进行工作，防止其出现越界行为。无论是否受到上述观点的影响，DARPA此时强调对于AI技术安全性的管控可能都将是AI技术发展过程中的必然选择和重要课题，也许在不久的将来科幻小说中的“机器人三定律”就可能成为未来人工智能的安全准则。

声明：版权归原作者所有。文章观点不代表本机构立场。