祝贺！姚期智教授再获国际大奖，听听他怎么看待超级AI
6月18日，2021年度京都奖公布。2000年图灵奖得主、世界顶尖科学家协会（WLA）会员、中国科学院院士、清华大学交叉信息研究院院长姚期智教授获奖。
姚期智教授的获奖原因是“对计算和通信新理论以及基于该理论的安全基础理论的开创性贡献。”
姚期智 图 | WLF
京都奖由日本京瓷公司创始人稻盛和夫捐资设立，是一个表彰对人类科学和文明发展做出突出贡献的国际奖项。该奖每年颁发一次，分为“先进技术”、“基础科学”以及“思想和艺术”三大奖项。
多位京都奖得主，如斯坦利·马泽尔（Stanley Mazor）、西蒙·莱文（Simon Levin）、金出武雄（Takeo Kanade）、格兰姆·法夸尔（Graham Farquhar）等，均为WLA会员。
京都奖
姚期智教授是国际著名理论计算机科学家，因其开创性工作而荣获2000年度图灵奖。他的研究方向包括计算理论及其在密码学和量子计算中的应用。他是量子计算与通信领域的先驱，于1993年最早提出量子通信复杂性，1995年提出分布式量子计算模式，后来成为分布式量子算法和量子通信协议安全性的基础。
姚期智教授自2011年起担任清华大学交叉信息研究院院长，先后开设“姚班”、“智班”、量子信息班，培养顶尖人才。
姚期智教授参加第三届世界顶尖科学家论坛
图 | WLF
姚期智教授参加了第三届世界顶尖科学家论坛。在“科学前沿与颠覆性技术”论坛上，他就人工智能领域的最新进展发表主题演讲。以下为演讲实录：
人工智能（AI）带来的巨大影响，特别是对人类生活带来的巨大影响已经显而易见，比如说人脸识别技术；在不远的将来，我们可以期待，自动驾驶将会真正的改变我们的社会机制。
但实际上目前还有一些领域，AI无能为力。我们需要去思考一个问题：现在AI的算法的限制是什么，它的局限性在哪里？接下来在机器学习以及AI的发展之中，还有哪些需要实现突破的地方？我想给大家几个例子，帮助大家去了解现在AI的研究人员从科技的角度所关注的问题。当然这些问题在现实中是非常重要的，不光是有关工程方面的问题，还有一些是在科学上需要寻找答案的问题。
第一个是我们面对的一个批评，就是AI的算法。AI的算法非常高效，在性能上很好。比如说在人脸识别技术上，它可以说比人类做的更好。但AI的这些算法，在大部分情况之下，稳健性和人类相比是有差异的，这里给大家一个例子。
比如说你给它一个猪的图像，AI可以记住，可以把它辨认出来。但是如果你加上一点点非常小的干扰，就是所谓的噪声，那么接下来出现的这个图，它在人眼里仍然是一只猪，但是AI的算法会把它当成飞机，这就变成了一只会飞的猪，这个不是我们想要看到的AI表现。
在一个很关键的情况下——自动驾驶的情况下，如果看到了一个红灯，或者停车的标志，假如图像的能见性不好，或者有些人故意做了一点点的变动，最后结果可能就变成了一个通行的标志，那么它带来的影响就是非常严重的。这是在过去几年间人们非常关心的问题，这是一个很难解决的问题。
而我们所要做的事情就是创造出更加稳健的算法，但是我们还有一些没有理解的问题，有可能这是因为精确性不够，但是我们还没有一个确切的答案。重要的是，如果不能改进学习算法的稳定性，那我们是没有办法去使用它的。
姚期智教授参加第三届世界顶尖科学家论坛
图 | WLF
第二个例子，可解释性。AI的算法可以用在非常广泛的领域，比如说在环境、医药、伦理、教育等等，但是这里所出现的精确性的问题是很重要的。我们不能仅仅依赖性能的高低，如果这个算法想要被大众接受、能够广泛使用，还有其他一些标杆需要满足。
就像前几位讲者所讲的，AI的算法会有一些问题，尤其是在深度学习，在非常高性能的算法方面出现的一些问题，我们现在没有办法解释，比如说在算法方面，哪些地方做的更好，还没有准确找到它的原因，这里我们来看一个例子。
我们可以思考一下AI的程序，用来进行房屋的价格评估。大家可以想象一下，你使用了深度学习的算法，这些算法只是一些编码，这些编码是没有解释在里面的。你自己的房子要挂牌销售，你把一些信息输进去，结果它告诉你房子可以值两百万，你可能就不是很高兴，因为这比你期望的价格要低很多。但是算法就是这样设计的，通过AI的一些算法给了你一个结果，但是如果你想它去解释或者评论一下，来解决你的疑问，那它是做不到的。
这也可能会带来一些法律上的问题。如果有一个技术能够应用的话，也要满足在法律上的要求，尤其是一些无歧视的要求。像这些问题，AI还没有解决。
接下来我们看一个最近的情况，AI所要实现的突破是什么？AI在未来的应用之中，不仅仅是下围棋或者是打扑克，它还能做什么？我们通过AI，可以解决一些什么问题？
我们目前所看到的最可能的应用，就是增强或者是强化学习。比如阿尔法狗，它有很强的算法，这个潜力绝不仅仅是下围棋这么简单。我们可以去找一些场景，比如说使用无人机，无人机作为一个机队可以做很多事情，可以用它做灯光秀，也可以用它去进行林业和农业的观测，这个不难做到。实际上它就是一种分布式的算法，是一个常见的计算机技术，我们已经知道如何去做了。
再往前走一步的话，比如说使用无人机机队进行视频游戏或者是对战，那么这个时候无人机是否能够参与进来呢？它可以胜任吗？在这个部分，我们自然而然就会想到要使用像博弈论或者是增强学习，能够找到一个最佳的表现。
这比下围棋要难很多，因为下围棋有很多的规则和原理都已经清楚地定义下来，但是无人机的应用面临的很多情况都是没有办法确定的。所以在这里想要解决一些现实的问题，采用单一的计算机原理是很难做到的，我们还需要在AI方面进行很多的研究。
不仅仅是在无人机的方面，我们还需要通过强化学习去了解我们未来还能做什么。在一些游戏或者对战的情况下，不是说比竞争对手识别出更多的数据就可以，而是要做很多的决策，这个在技术上的要求就更高。
姚期智教授参加第三届世界顶尖科学家论坛
图 | WLF
另外一个方向，它仅靠自己是没办法实现更多进步的，我们需要把它和其他的一些深度研究，包括其他领域的深度研究结合在一起，才能够产生更好的结果。
比如说我们在这里有一个多方计算，这个多方计算就是一个在1982年提出来的观点，一个加密的概念。多方计算、多个数据库都有各自的自有价值，他们可以参与，但是自己的数据也可以保密。多种数据融合，同时又保护了隐私。几家药企都有自己的数据，把各自的数据集合在一起，加速药物的发现，使用多方计算就能实现。
超级AI已经到来了吗？很多人都在讲威胁的问题，现在因为机器学习能力大幅改进，人们开始相信在未来十年、五十年，我们能够看到真正AI对人类具有可比性，我们的问题就在于要不要控制AI。
最近斯图尔特·罗素（Stuart Russell）提倡严肃对待这个问题，提出三条原则。我们设计方法确保超级AI对人友好，罗素讲的这三个原则非常有意义。
我就讲这么多，谢谢大家。
1. 一周图说 | 别担心！“超新星纪元”还没到2. 听歌助眠？当心睡得更差！3. 玩这个游戏，你也有机会“拿下”诺贝尔奖！｜顶尖科学家周记