科幻科技对话：机器人实在不能变得像人一样愚蠢
来源：“1024程序员节”之“岳麓对话开启数字经济新时代”
主题：科幻X科技对话 元宇宙VS五硬科幻VS机器人
时间：2021年10月23日
刘韧：元宇宙是一个新概念，到今天也没有很好的定义。第一个问题，我想请大家讲一下，自己心目中的元宇宙，您给元宇宙是怎么定义的？
黄晓庆：元宇宙这个词，大家第一次熟悉它，是在90年代有一本小说，不知道大家有没有看过美国电影《刀锋》（Blade），这部电影就是从那部小说中拍出来的。电影讲未来有一个世界，这个世界与我们的世界是并行的，然后这个世界还可以衍生出很多世界，跟那些世界又是并行的。所以，那些世界相当于是被想象出来的，或者说，是被计算机设计出来的，这个叫metaverse（元宇宙），我们所生存的这个世界叫Universe（宇宙）。
为什么这个“元宇宙”的概念突然火起来？我的理解，最大的、非常重要的原因，就是游戏、AI和VR的技术，让我们突然想到，原来我们人类的未来，确实有这么一个发展的倾向。
我在2015年决定造一个机器人的操作系统。可以负责任地说，我当年肯定没想到元宇宙今天会火。当年我要找一个参考的模型，来设计机器人的操作系统，我想让机器人怎么能看见我们的现实世界呢？就需要做一个数字孪生。实际上，数字孪生是一个机器人的元宇宙，我们所说的元宇宙就是这么来的。
我觉得，元宇宙的概念，就是我们的现实世界把它信息化的概念。
白丁：我想，主办方请我来参加这个活动，是因为我写了一本科幻小说《云球》，这个“云球”和元宇宙确实有一些类似的地方。云球就是一个虚拟系统，是一个计算机系统，那里有一个衍生出来的世界。书里头有很多故事，和现实世界，和计算机衍生出来的世界，都是密切相关的。我写书的时候，大家还没讲元宇宙，最近它很火。
关于元宇宙有很多不同意见，有很多人非常非常看好，觉得元宇宙是游戏、社交，是未来一个特别大的方向，可以让人沉浸在里头，是现实世界的一个替代。当然也有一些反对的意见。
从IT圈来讲，元宇宙是一个新概念。我之前做了20多年IT，对IT圈有些感知，以我的感知来讲，IT圈需要一些概念的引领。至于说每个阶段出现一个特定的概念，它是不是今天可以变成现实，马上可以体现出巨大价值，我觉得并不是最重要。最重要的是，人类是需要概念的。当一个概念出现的时候，可以引导所有人，引导IT圈，引导工程师、引导程序员去思考一些问题，然后可能会带领这个圈子，带领整个行业走向更好的未来。
董钰鹏：我对元宇宙是有一点信仰的。不知道大家是否知道科幻界有一个名词，叫做“费米悖论”，它提出了一个质疑，费米说，宇宙中有无数适宜人类生活的星球，那么，宇宙存在几百亿年这么长的一个时间，理论上应该有无数的外星人，但事实上，我们一个都看不到，这是为什么？
有一种对“费米悖论”的解释，就是外星人可能全部数字化了。他们会进入一个数字化的宇宙，或者虚拟空间中生活。在这种空间中，时间对他们没有意义，有可能他们是永生的，一秒等于一万年，物质对他也没有意义，他可以挥手之间创造东西，或者毁灭东西。今天我们老想着外星人会来攻打我们，掠夺我们，这些想象的情况，在不同纬度之下，也许是不存在的。
今天，我也认为，人类处在一个数字化的进程之中，互联网是虚拟世界的开端。我们完全可以把今天的互联网看成一种虚拟世界，今天的大众，原来叫网民，我们现在不说网民，因为每个人都有一部分生活在互联网之中，我们在互联网上购物，我们在互联网中生活和娱乐。互联网、移动互联网，它是我们生活的一个虚拟世界。大众正在想象，是否有一个更具像的互联网，让我们生活得更美好、更精彩。举个例子，我们今天用手机上淘宝、购物，我们拿着5.5寸屏幕的手机点图片，看2D视频，那么未来，淘宝是否有可能3D化？我可能进入像黑客帝国里的经典场景，尼克挑选武器，一挥手，像火车一样冲过来十几个货架，上面全都是西红柿、胡萝卜，有1000个品种，你可以拿起一个来，看大小，颜色，有没有瑕疵，扔到你的购物筐里面去，这样来购物，这是一种更美好的移动互联网的未来。
我认为，对于元宇宙理念，它的定义，应该是让大家生活在更加具象、更加精彩的互联网世界的一种美好愿望。
蒋涛：我接着他说的信仰。我组织过一个讨论，这个世界是不是被编程的？我看了白丁老师的书，马上觉得真是同道中人。我们认为，我们正处在一个被编程的世界。如果有一个外星人创造，或者有一个上帝创造，或者有一个佛创造，他们其实构造了我们这个世界。
怎么证明这一点？做梦。我不知道你们有没有做过一种梦没有？清明梦，lucid dream。你做梦的时候知道自己做梦。不知道有没有人有这种经验，这个是可以训练的。你有做清明梦这个能力以后，你就可以造梦。《盗梦空间》是有来历的。造梦就是你在梦中，你知道自己是在做梦，在梦中，你是有感触的，你会有痛感，你吃东西，还有各种滋味的感受，其实都是神经给你的反应，你在梦中是可以感受到。你造梦，你想跟初恋女友通话，随便抓个东西，耳朵里飘来的，就是她的声音，这就是造梦。
我认为，我们这个世界就是被构造的。为什么？我们如果编过程序，很小的一段程序代码，能够构造出来很复杂的世界。很小的计算力，就能创造出来很真实的东西。我们计算机走了50年，地球是50亿年。我们如果能走个500万年，肯定被模拟出来了。这就是白丁老师写的。只要量子计算机，比现在大一百万倍或者一亿倍，构造一个完全真实的世界是绝对可以做到的。那就是《Matrix》里的，人就躺在一个池子里，营养液里，脑里的世界会非常非常精彩。
刘韧：人类为什么需要元宇宙？是因为人有一个野心，有一个梦想，想过更多人的人生，他是觉得过一个人的生活太不过瘾了。但从目前来看，只能过一次。所以，人们想出了很多办法，来弥补这种缺陷。第一个办法是写小说，写个贾宝玉，写个大观园，尽管我们不是贾宝玉，也不是林黛玉，但我们可以想象着我们的林黛玉爱着我们。后来随着科技的进步，有了电影，有了好莱坞的梦想，各种各样的梦想，在电影院里享受一下，人生如梦，梦如人生，在一个多小时里，就可以过另外一个人的生活。有人可能喜欢看武侠片，到武侠片里，大家都成了大侠。后来又有了游戏，我不是特别喜欢打游戏，我儿子喜欢打游戏，他可能在现实生活中受到约束比较多，在游戏中很自由，他也是老大，因为在家里我是老大。我觉得现在，可能随着算力提高，人有一个新的需求，可能比游戏更加融入。我觉得至少有这个需求，至少有元宇宙的需求，让我们过更多的人生。我最喜欢的一个电影导演说，他拍电影或者别人看电影的目的，也是可以过好几辈子。这是我纯粹从一个文科生的角度去看。
第二个问题，白丁老师的书，封底有一句话，他说，“知道机器人为什么不能变成人吗？知道机器人和人的本质区别在哪里吗？因为机器人实在没办法变得像人一样蠢。”我看完这句话觉得蛮震撼的。你觉得机器人对人的挑战是什么，机器人在元宇宙里扮演什么角色？他会取代我们、统治我们吗？我们将来会跟它存在竞争关系吗？
黄晓庆：从文明的角度来说，我们人类还是比较原始的。我们有几个坚信，我们坚信在宇宙里面不是孤立存在的，我们坚信宇宙里面肯定是有文明的，但我们现在什么文明也没看见，没找到。从科幻来看，文明可以分三个阶段，行星文明，恒星文明和星际文明，我们人类还没跨越第一个阶段，我们没有从我们诞生的地球走出去。如果我们在火星上建立殖民地，我们就变成了恒星文明。这是马斯克最想干的事，他肯定不想死在地球上。也就是说，人类在宇宙角度来说是非常落后的，相当于我们现在看见亚马逊那些原始部落，可能还要更低，外星人看我们，觉得很落后。
落后带来的后果，导致我们的生命被诅咒了。你想，宇宙已经有130亿年的历史，地球也有50亿年的历史，为什么我们人类作为一个智慧生物，只能活100年。肯定我们在编程的时候，被程序员装了BUG，让我们只能活100年，让我们没有办法去开发、去探索远远超越我们今天的宇宙。
我们今天的世界太小了。所以，我认为，第一个要突破的，就是有机生命的身体，所以人工智能的发展，特别是奇点来临，给我们带来了这次机会。让我们的灵魂，能下载到计算机里。从有机变成无机。从这个角度来说，我们根本不用担心机器人，因为机器人就是我们本身的未来，我们更不用担心机器人造反，我们还担心自己造自己的反吗？我们差不多造了几十万年了。
对于发展机器人肯定是积极态度，肯定是让机器人帮我们人类去干活。那什么时候机器人能变成我们了？等到我们的灵魂能下载到机器的时候，那个时间还挺早的。目前机器太笨，机器还没聪明到像人类可以犯错误的水平。
刘韧：白丁老师同意吗？
白丁：我之前搞IT，写程序写了几十年，我的感受，我们人工智能的研究，我们今天去编程，所有程序员追求的一个最大事情，是确定性。你希望你的程序编出来之后，它的运行过程是非常确定的，你能获得预期结果。这种确定性，当然很好。如果出现了不确定性，我们就认为是有BUG，我们就得去修改。但事实上，大家对前沿的生命科学或者说前沿物理学，前沿的宇宙学，大家去看一些这方面的书，就知道现在世界最前沿的学科，是一个叫做“复杂性学科”的领域。以我个人看法，未来一百年，基础科学最大的领域，最核心的领域，一定是复杂性科学，但复杂性科学里头最重要的一点，是不确定性。
我给大家举一个例子。大家知道蚁群，每个蚂蚁在生物界都算极端简单的个体，但一个蚁群的表现，非常像是有生命的表现。以至于有科学家认为，蚁群是某种形式的生命。如果大家看过侯世达的《哥德尔、埃舍尔、巴赫》，专门讲到蚁群。蚁群为什么会获得生命？这里面有一个很有意思的点。每一只蚂蚁的行为，比如它去找食物，一只蚂蚁发现了食物，会有大批蚂蚁沿着它的轨迹往前走，找到了食物，把一只大青虫搬回蚁群来。其实，每一只蚂蚁往哪儿走，是完全随机的，但是，如果有一只蚂蚁，找到了食物，它在那条路上留下信息素之后，并不会导致它会沿着这条路走，而是导致它沿着这条路走的概率会变大一点，第二只蚂蚁去了，再走回来，信息素会多一点，它的概率又会变大一点，这意味着蚂蚁没有像我们聪明的人一样，说那有食物，我们一定本着食物去。它只是奔着食物去的概率大了一点点而已。其实这是一种犯错的行为，这是一种随机的行为。以我的了解，实际上，现在最前沿的科学家认为，生命是蕴藏在随机性和错误当中的。而我们程序员是非常抵触随机性和错误的。
所以，我认为人工智能的下一个突破，一定是来自于我们对“放弃确定性”的追求，这是很重要的一点。所以为什么我说机器人不会像人这么蠢，就是因为真正的人工智能，是会知道什么时候，会容忍一个什么样的错误。
另外一点，我刚才听小董说的一句话，我很有感触。他说的费米悖论，说宇宙如果有生命，我们早就发现了。但其实有一本书，《费米悖论有一百种解释》，如果有兴趣，大家可以看一下。有一个特别大的悖论，不像费米悖论那么有名，我个人认为更加有意思。
如果，我们今天讲元宇宙的未来发展，假定它是可能的，这意味着什么？真正的元宇宙可以替代现实宇宙，那就意味着，这个元宇宙里的人，理论上可以创造下一层的宇宙。从一个抽离的角度来看，整个宇宙，这么多层宇宙，还有很多并行的宇宙，只有一个根节点，大家可以想象一个多叉树，只有一个根节点是真实的，每个叶子节点全部都是虚假的，这意味着，如果我们用数字去想，现在有一万个宇宙，只有一个根节点是真实的宇宙，9999个都是假的，那么，我们这些人，如果在一万个宇宙里头，拿骰子往里一扔，9999/10000的概率，是扔在虚拟宇宙里面，而不是根节点宇宙。换句话说，我们活在根节点，活在真实宇宙里的概率约等于零。这是一个科学界讨论了很多的悖论，这个悖论只有两个结果，要么虚拟宇宙永远不可能存在，要么我们是生活在虚拟宇宙里。
黄晓庆：我也是科幻迷。首先我觉得，在降维的时候你可以形成一个跨时空。假如我们这个宇宙是模拟的，我们是被仿真的，我们就没有办法突破这个系统。如果我们做一个游戏，我们在游戏里造一个虚拟宇宙，作为一个玩家，我们进去了，我们就可以跨时空。你会发现，我们是那个宇宙里面的神。如果我们也是一个宇宙，那创造我们这个宇宙的那个程序员，他也可以在我们这个宇宙里面跨越时空。
从某种意义上讲，我们不同节点，宇宙当中的宇宙，它是一个可能更高一层的文明，才能够创造我们这个文明。也就是说回到刚才蒋涛说的，我们很有可能就是一个生活在某一个元宇宙里面，某一个元宇宙就是我们现在的宇宙，你刚才讲这个问题，关于费米悖论的问题，关于新的悖论的问题，有一个很简单的方法可以解释，实际上，我们并不是没有看见外星人，而是外星人可以选择不让我们看见他。就是这样。
蒋涛：权限不够，没有系统权限。
白丁：我建议大家去看看那本书，《费米悖论的一百种解释》。
蒋涛：我有那本书。
董钰鹏：顺着这个话题往下说，非常好玩。如果世界中，每个人都有创造虚拟世界的权利，在我们这个世界中，就是掌握在程序员手里。今天是程序员节，每个程序员理论上都可以构建一个世界，或者简单，或者复杂，里面会有NPC，他是数字生命的一种，他们是否会认识到自己是一个什么形态生命，当你把这个世界建造得越复杂，越逼真，可能这个生命会像我们今天的人类一样，有更多思考能力，甚至探索人为什么存在，是真是假之类的。这是非常有意思的事情。
另外我非常喜欢白丁老师的那句话，机器人实在没办法变得像人一样蠢。上周我从北京过来，那边有一家公司做AI，很多做AI机器人的公司，致力于做陪玩的机器人，或者是NPC，但是他们不太一样，他们试着做，让每个NPC，通过学习和训练，让它具备一定人类的性格特征，比如说鲁莽，粗俗，等等。如果我们有一天可以一小半时间生活在真实世界，有大半时间，生活在更具象化的、更精彩的元宇宙世界。你会发现有公司把机器人做得像人一样蠢，在这样一个世界中，数字生命和人类这种非数字生命，坦白说没什么区别，无论是谁，都可能犯罪，都可以抓到牢房里面去，不用问是数字生命，还是真实生命，只看有没有违法这个世界的法律规则。
这个话题很好玩，这个论坛也很好玩。
蒋涛：什么是人和机器人的区别，人和动物的区别，机器人和动物的区别。刚才说，蚂蚁有没有智能，我们可不可以做一个蚂蚁机器人，蚂蚁机器人它有没有它自主的行为，这里面有很多需要定义的概念。我相信机器人会具备我们所认为的智能，而且极大可能对社会造成极大的危害。如果任由机器人和人工智能的发展的话。
有本书叫《守护程序》，英文名叫“Daemon”，是美国一个程序员写的，说一个游戏公司老板死掉了，但是他的游戏，在全世界有几亿人用，老板在游戏里留了一个后门，偷了玩家的所有数据，知道玩家的所有行为。这个老板有一个信念，认为所有发垃圾邮件的人，都应该杀掉。因为垃圾邮件耽误了我们很多带宽。老板设定了一个法则，他的程序有一定的智能性，可以指挥不同的玩家，杀掉发垃圾邮件的玩家。
我下围棋，原来我们觉得围棋不可以被量化，因为计算量太复杂。高手他有直觉，后来你发现，直觉是可以被计算的，而且也不是那么复杂。AlphaG21天或者7个小时，就完成了人类3000年的智能进化。所以，到底什么是人的智能，还得定义。人工智能会一次又一次突破，这有点像超级武器，美国已经演示，那种很小的飞行物，它如果带攻击性是很可怕的事情，五十年以后，战争是掌握在强人工智能（Strong AI）的手上。悲观啊，好像霍金也是这个看法。
黄晓庆：悲观是对的。因为有了悲观，我们才能建立比较好的机制来监管它。我非常认同对未来危险性的有效评估。但是我们肯定都知道，如果你不去干，你的竞争对手就会干。
蒋涛：最后把自己干死了。
黄晓庆：就像美国人干原子弹一样的，我们知道很可怕。但是，最想干原子弹的，恰恰是美国的敌人，就是俄罗斯，两弹一星不就是这样产生了。我们知道人工智能是危险，但是必须要干，不干的人，就是最傻的人。机器人也是一样，我们人类要解放生产力，最终极的机器，就是机器人。
白丁：我写的书里头都是充斥着机器人，机器智慧，虚拟世界，但从我个人角度来看，我对这种危害性一点不担心。我在书里头有一章专门解释了这个问题，这个里头仍然存在悖论，机器人为什么不危险？这个机器人如果有危险，是发展到了一个什么样的阶段才有危险，为什么要控制人类？甚至毁灭人类。它为什么？大家在想我们为什么的时候，这是一种自我意识的一种体现，换句话说，机器人到什么情况下才会危害人类，就是它具有自我意识。
我们看科幻小说，电影，都是机器人意识到我是我，要消灭人类这个异类。但是，我们这个世界70亿人，每一个人都有意识，当一个物体变成了生命体，拥有自我意识以后，他就悲剧了。因为它一定会自我分裂，它一定有各种各样的不同想法，不同的思想，不同的主意，会有很多机器人希望把人类这个异类给消灭，但也会有很多机器人特别喜欢人类，就像现在的或者说有史以来的人类，从来没有真正团结过一样，如果机器人拥有了威胁人类的能力之后，他们一定不会团结的，他们内部的混乱，和人类今天世界的混乱是一模一样的。大家完全不用担心，只不过世界变得更混乱而已。这也是一个悖论。
刘韧：就更乱了。我们还有最后5分钟。我们再讲点比较实际的。我是觉得这些特别美好，我认为元宇宙也是好东西，我是想尽快进入这个世界，你们有没有进入的路径，或者一些想法，进入的建议，或者进入的计划，怎么在这个概念下获益？
黄晓庆：我认为有特别多的机遇，从产业角度来说，元宇宙是人工智能发展的一个非常重要未来空间，如果我们把现实的社会和元宇宙连在一起，它给我们带来一个工业互联网发展空间，带来一个城市管理的参照体系，给我们带来一个社会治理的参照体系。比如说担心下雨出现洪水，你可以在元宇宙里先下雨，看看会不会变成洪水，你有了模拟，很容易进行社会治理。我是做机器人的，我发现有了元宇宙，我可以用虚拟机器人进行训练，开发应用，突然发现，原来，机器人时代需要元宇宙，我这是很特别的数字孪生的元宇宙。
从另外一个角度，我们每人都想做一个神，我们都想拥有不同的人生。比如我现在是男的，我想体会当一个女人怎么回事，我现在是一个中国人，我想体验下非洲人的生活。娱乐业的这种潜力是不可估量的。也许以后我们就不看电影了，我们进入一个元宇宙这种体验，相当于看电影。
白丁：刚刚黄总讲看电影，男人想做女人等等，《云球》里都有这些故事。《云球》就是分析了在技术进步的情况下，这个整个人类有一个反应，他的心理、社会都有怎样的一个反应。说到元宇宙落地这个问题，不是技术障碍，障碍都是客观困难的，正是因为这些障碍的存在，很多人对元宇宙持有相对负面的看法，比如苹果的库克说，宁可叫它AR，而不叫它元宇宙。但是元宇宙是一个概念的东西，它会引导一些东西，所以我们不妨宽容一点。至于元宇宙落地，最核心一点是，大家不需要去抱过高期望，我们今天做的是一个原型，但它会一步步往前走，最关键是，任何事情都要开始去做，有一个概念，大概知道有一个方向，然后慢慢的去探索。
董钰鹏：最近关于元宇宙理念的讨论偏多。包括我们刚聊的两个话题，都容易让大家认为，这是一个不够落地的，离我们还比较远的概念，或者说是一种热潮，泡沫比较虚。但是，我对这件事有不同看法。我能看到周围一些元宇宙理念的产品正在成形，比如说脸书说all in 元宇宙，他的产品叫Horizon，这个产品的方向是3D沉浸社交，它的成功取决于是否可以替代脸书的2D场景化的基于文字和图片的互联网型社交场景和空间。
如果Horizon能取得成功，说明元宇宙的理念真正落地。在Horizon之前，还有一款产品，叫Second Life，第二人生，这也是最早的元宇宙理念的产品。包括我们今天也可以秉承这样的理念去做产品，比如说，我们是否可以搭建一个电影的经典场景，让客户在购票之前进入这个场景，跟里面的NPC进行互动，了解故事梗概，乃至于扮演一个角色。那么这种互动行为，是否能增加用户的购票率，是否是猫眼电影的升级版，是一种更好的体验？如果它是成立的，那就意味着元宇宙体验的产品，能比当前互联网某些产品形态，拥有更好体验，它是一种进步。成功产品要么具备更好的体验，要么具备更高的效率，要么具备更低成本。比如说，北京有一个环球影城，它是否可以做到网上，做成一个虚拟的、3D的，大家可以体验的环球影城。这么有名的娱乐设施，但中国有99%的人没有去过，我们能否让偏远地区的孩子免费的进入空间去体验，那这是不是一个元宇宙理念的有价值的项目。如果这些理念，这些设想能够具像化成为产品，并且具备比当前移动互联网产品形态更好的体验、效率或者更低的成本，那么，我想说，元宇宙就来了。无论是投资人还是创业者，在谈项目的时候，也应该已经过了谈理念，而不谈项目，基于元宇宙理念的项目，它的实际竞争力是什么？这个阶段，我们如果基于元宇宙理念，它有实际的市场竞争力，用户用脚投票，进行这种迁移，元宇宙时代就来了，在我看来并不远。
蒋涛：短期内，技术快突破了，沉浸式体验，包括黄总那边做的把物理世界和现实世界完整地数字化，代参数，让它变得可编程，世界变得可编程，这件事是确定的。VR体验，现在还是头盔问题，延时问题好很多了，设备怎么做得更小，头盔和体验做到非常真实了，但还差一点。原来电脑很笨重，什么时候能做到戴眼镜也能有沉浸式的感受，我认为这个突破就快到了。短期内，我认为三到五年内，就应该会突破，我们现在很像七八十年代在PC时代去讲电脑。这是第一点。
这时候需要人才，你除了学编程以外，具备代码能力外，可能要学的是一个体验系统的能力，体验系统和经济系统，我认为是未来可能最需要的人才。因为你构造的是一个体验，你要设计一套经济系统，相当于你要创造一个世界。
长期的我认为，还有一条线大有前途，就是脑机接口。人的意识怎么产生的，人的认知是怎么产生的，这件事，有可能现在的人工智能走的方向是错的，解决问题只能解决某一类，不是人真正的智能，这也是确定的，这条线有很多科研工作在做。
董钰鹏：我会看好VR，5年以内走向成熟，AR是20年，脑机技术是更远期一些。坦白说，现在用超前眼光来看这件事，已经开始布局了，开始了解相应信息，和做了比较深度的思考，已经可以开始了。
刘韧：我其实蛮看好这件事情，我认为，元宇宙这件事情有需求，不是伪概念。为什么这么说？几千年前庄周就说，我不知道是蝴蝶梦我，还是我梦蝴蝶，隐含的意思不是这个，我可以一会儿当蝴蝶，一会儿当人，他想的是自由。人对自由的需求，是永无止境的，人失去自由，也是特别痛苦的，所以人做了坏事，会给你关起来。自由，是人挡不住的一个需求。
对自由的需求，对神的需求，一会儿又想当贾宝玉，一会儿想当林黛玉，人是贪得无厌的。我认为，就是对元宇宙这种需求，我们现在可以看小说了，可以看电影了，可以打游戏了，我们现在想玩一个更高级的，更有意思的。