构建以“数据+知识”驱动的第三代人工智能

#人工智能#相关阅读

以深度学习为核心的“这一代”人工智能已经取得了巨大的成功，但仍然存在多方面的挑战。因此，发展下一代人工智能，是人工智能领域许多人都在思考和探索的问题。

下一代人工智能是什么？它能让人工智能更加安全、可信、可靠吗？

今天我们从本源出发，探寻人工智能的未来。

人工智能发展的2个阶段

人工智能60年的历史中，一共经历了两代的发展。

第一代人工智能也称符号主义，主要是基于知识库和推理机，即将某个领域的知识或经验通过人工整理成计算机可以识别的符号及规则，通过符号演算和推理进行规划、决策、识别等类似于人类的智能工作，也就是在计算机中建立知识库和推理机制来模拟人类的推理和思考行为。

典型的成果如1971年左右斯坦福大学的MYCIN医疗专家系统和1997年左右的IBM国际象棋系统，前者可诊断血液传染病并开出抗菌素处方，后者于1997年打败了国际象棋世界冠军卡斯帕罗夫。

这类系统的共同之处在于：

一是要将知识和经验放入系统，如把传染病知识、下过的棋局和形成的残局，通过人工分析整理变成计算机可以识别的知识；

二是算法，其中包括符号演算和推理机制；

三是存储能力和算力，依靠容量和速度远超人类的存储和计算能力，来超越人类的某项能力，如医疗知识库的内容肯定超过该领域任何一个医生所知，国际象棋系统每秒能够预测8~12步，而象棋大师每秒只能预测3~5步。

第二代人工智能，就是大家非常熟悉的深度学习。所谓深度学习，就是通过深度神经网络模型模拟人类获取知识的过程，它的基础主要是神经网络和统计方法，可以广泛用于图像识别、文字识别、声音识别以及大数据分析等领域，并取得了非常好的效果。如在人脸识别、指纹识别等领域，人工智能系统已经能够超越人类的识别能力。

最为世人所熟知的是围棋系统：采用第一代人工智能技术的程序，2015年达到了业余5段水平。采用深度学习后，围棋程序水平实现了连续增长，从业余走向专业，再从专业迈向击败世界冠军的水平。

“这一代”人工智能面临的挑战

中科院院士鄂维南在《下一代人工智能》演讲中，描绘了未来五到十年人工智能的发展方向。

从图像识别、AlphaGo下围棋，到蛋白质结构解析，以深度学习为核心的“这一代“人工智能，已经取得了巨大成功。然而巨大成功背后 ，“这一代”人工智能面临着挑战。比如以数据驱动的第二代人工智能在可解释性、鲁棒性等方面的缺陷也暴露出来，安全事件频频发生。

因此，要解决这些问题，必须要发展下一代人工智能。

另一方面，鄂维南院士从人工智能的底层逻辑阐述了发展下一代人工智能的必要性。

人工智能的底层逻辑包括社会逻辑、科学逻辑和商业逻辑。

在社会层面，我们要努力确保新的技术是有利于社会发展的。

在科学层面，人工智能在工程方面已取得巨大成功，但是在科学方面仍然有很多问题，尤其是深度学习，人工智能不应该仅仅是一些技术的组成，而是一个系统的Science，就像物理化学这类传统学科一样。

在商业逻辑方面，有三个关键问题——能不能用，是不是可靠，以及成本如何。

对于能不能用，还存在许多挑战。以皮肤状况鉴别诊断为例，虽然深度学习提供了高诊断精度，但不具备可解释性，这严重制约了实际应用。对于可靠性问题，鄂维南院士以猴子照片为例，虽然深度学习算法能够准确识别猴子，但是如果猴子前面存在遮挡，深度学习算法有可能将其识别为人类。在成本维度，深度学习有效但并不高效，需要大量训练数据、人力成本和算力消耗。

目前普遍的共识是，尽管人工智能经历了60多年的发展，但仅仅是刚刚拉开了序幕，未来的人工智能将比今天的人工智能有更强的能力。为此不少国家已将发展新一代人工智能提升为国家战略，中国也不例外。

构建以“数据+知识”驱动的第三代人工智能

为了弥补前两代人工智能的不足，尝试结合前两代优势的第三代人工智能应运而生，越来越多的研究者开始为第三代人工智能的发展添砖加瓦。

清华大学人工智能研究院名誉院长、中国科学院院士张钹表示：

当前机器人智能还很低的时候就处于不可控状态，这让人类面临危险。“比如用深度学习的方法处理事情，生成的人工智能算法危险、不鲁棒（鲁棒性，指系统对异常情况的适应能力），没有可靠性保证，如果使用这种人工智能算法，必然会对人类带来伤害，这已经成为现实问题。参考当前人工智能的发展状况，此担心看起来是一个近忧，而不是远虑。”

在他看来，人工智能纯粹靠数据驱动的方法必然不鲁棒，必然不可解释，必然不可靠。人在从事人工智能工作的时候就一定要考虑到相关的可能性，要解决这类问题，唯一的可能性就是加上知识，加上模型，办法很简单，但执行起来很困难，因为把知识加到数据驱动中去，方法上要有很多改变。

锚定怎样的发展理念，选取怎样的技术路线使下一代人工智能实现安全、可信、可靠的发展，将是我们这代人为未来智能世界绘制的蓝图底色。

第三代人工智能需要克服第二代算法的不安全，不可解释，鲁棒性差等问题。张钹提出，发展第三代人工智能，最主要就是建立可解释的鲁棒人工智能理论，将知识驱动和数据驱动结合起来，充分发挥知识、数据、算法和算力四要素的作用。

发展第三代人工智能是一项非常长期的任务，人工智能的安全和治理也是长期任务。面向未来，需要企业、高校与科研机构携手，建立良好生态，共同实现下一代人工智能。

编辑：岳青植
监制：李红梅

文章参考：

1.《安全可信可靠是人工智能发展蓝图底色》人民邮电报

2.《中科院院士张钹：纯粹数据驱动的人工智能不可靠 存在危险》新京报

3.《中国科学院院士鄂维南：下一代人工智能》数据科学人工智能

4.《人工智能面临多重安全挑战》科技日报

往期回顾