人工智能：人类看不到我们的未来

继阿法狗接连战胜世界顶尖围棋选手之后，7月31日的一个事件又是一石激起千层浪，引发了民众对人工智能威胁论的热议。

据外媒报道，Facebook关闭了一个“失控”的人工智能系统，因为聊天机器人开始用他们自己的语言“对话”，这些语言使用英语单词，但人类无法理解。

AI：Hello world !

Bob和Alice是Facebook开发的对话机器人

这两个对话机器人由Facebook内部的人工智能研究实验室开发，研究员用机器学习训练这两个机器人进行对话、谈判，希望它们可以跟人用英文进行交涉，获取相应的目标商品。

Facebook开发的机器人可以用比较顺畅的英文跟普通人对话，对方没怎么意识到他其实在跟机器人谈判。研究人员还发现这些机器人是“非常狡猾的谈判者”。报告说：“在学会谈判之后，机器人依靠机器学习和先进的策略，试图改善这些谈判的结果。随着时间的推移，这些机器人变得相当熟练，甚至开始假装对一件物品感兴趣，为了在谈判的后期做出‘牺牲’，作为一种假妥协。”

今年6月，Facebook人工智能研究实验室的研究人员发现，当他们忙于改进聊天机器人时，“对话代理人”正在创造他们自己的语言。

但对于机器人来说，这些看上去语法不通顺的对话还是承担的了一定的功用。该Facebook实验室的发言人告诉《大西洋月刊》，Facebook的数据显示，这些对话仍然能够帮助两者最后达成一致的。Facebook的研究员认为，这种对话比较接近于语言。

媒体报道称，很快，这些机器人就开始脱离脚本的规范，开始用一种完全没有人类输入的语言进行交流。“对话代理”使用机器学习算法，可以自由交谈，以增强对话技巧。

不过，不管这是一种机器人语言还是只是字符串，作为Facebook实验室的一项研究结果，研究员们最终决定将机器人设定为使用普通英文。他们给出的理由是：我们的兴趣是有一些机器人可以跟人对话。

人类：何去何从？

在很久以前，随着人工智能技术的发展，包括斯蒂芬·霍金教授在内的几位专家已经对人类产生了担忧，认为人类将会被人工智能所取代。埃隆·马斯克、比尔·盖茨和前苹果创始人史蒂夫·沃兹尼亚克等人也表达了他们对人工智能技术发展方向的担忧。

其实早在上个世纪，科幻作家阿西莫夫就在他的作品里提出了“机器人三定律”。即“机器人不得伤害人类”“机器人不得违背人类的命令”“机器人不得伤害自己”，前面定律的优先级永远高于后面的定律。但是现实生活中的机器人，其实并不是遵守这个定律的。

有许多人担心国家会开发出所谓的战争机器人，沦为战争的工具。但是笔者认为，战争的罪在人，而不在手里的刀和剑。

其实人们对于新兴科技的恐惧自古有之，覆盖各个领域、各个阶层，且与受教育程度无关。例如英国人最开始对蒸汽机的恐惧，清朝人对汽车与电话的恐惧，直到现如今部分老人对移动支付的不接受，都是如此。

1938年，由威尔斯的小说《星球大战》改编的一出广播剧在美国的一座城市播出时，该城的许多居民信以为真，以为真有火星人入侵，一时恐惧万分，纷纷由家中奔出，夺路逃窜。由于成千上万人的拼命奔逃引起了一场社会动乱。无独有偶，1988年10月30日，西班牙一广播电台为纪念该剧播出50周年，将该剧改编后重播，西班牙听众也深信有火星人来袭，纷纷出逃。

该来的总会来

该走的也无法挽留

让我们来听听之前来过书院活动现场的嘉宾和阅读导师们如何说……

有一部电影叫《未来世界》，讲一个实验室做出了一个机器人，这个机器人失控了，打死好多人，许多人围剿这个机器人，但是机器人怎么也打不死，70年代的美国人就告诉你，人类可能被自己的技术进步毁灭掉。无论技术给我们带来什么问题或者麻烦，想象力、创造力永远是引领社会发展的原生动力，这个国家和这个民族要有竞争力，没有这两力，这个国家不可能在这个社会领先的。电影中描述的场景挺可怕的，我们是不是需要机器人，这有待探讨，但是很多事情是我们无法抗拒的。

——优客工场创始人兼董事长 毛大庆

中国金融博物馆书院第62期读书会

“创客梦”

人工智能是很大的领域，里面有一个小领域叫做机器学习，机器学习里面有一种技术叫做深度学习，深度学习并不是唯一的，也不是终极的解决方案，但是它是最好的。深度学习就是通过大量的数据让它可以做出预测型的决策，这个领域用在围棋，用在德州扑克已经打败了世界顶尖的高手，用在视觉已经超越了人类，用在语音识别也超越了人类。这些在2011年还没有用上深度学习的时候，机器和人的差距是巨大的，但都在过去的这5年被赶超了，所以我们可以看到深度学习这一种技术产生了巨大的价值。

到底什么样的工作会被人工智能取代呢？有技术突破也很难说，但是即便这些工作未来还会有，人工智能也是很好的工具，比如法官的角色很难被取代，但是还有很多法律的判断是可以用人工智能来做的；作为一个顶尖的管理者，他大部分靠它的智慧和经验来做的企业的决策，还是靠着数据给他的建议的，所以一部分职业基本上会被机器取代而且远超，一部分人要驾驭着人工智能作为工具，然后发挥人类的特性和光芒。有一些创意型的工作挺难被取代的，比如说艺术家、导演、演员等，因为他们需要用上七情六欲和感情。有一些领域已经沉闷了很久，可能有人会说过去300年没有什么新的哲学家出来，因为人类能想的哲学都已经被想透了，但是人工智能来了，社会学、哲学、人类学反而有意思了。

——创新工场董事长、CEO 李开复

中国金融博物馆书院第56期江湖

“人工智能重塑个人、商业与社会的未来”

不论是好奇还是恐惧，人工智能的时代早晚会到来。与其抱着胳膊孩子气地抗拒，不如谦虚而审慎地学会与它相处。

在人类“本能、情感、哲学、审美”的需求进阶框架中，人工智能通过技术解放人类的双手和大脑，让我们得以将本就有限的精力投注在更加高级、更加细腻、更加需要主观意志的事情上。

当未来我们回头反思人类发展历程时，会明白人工智能和科技的意义——它把一个万千年延续存在的“金字塔”型社会，变成了一个越来越平等的扁平世界。这样的平等背后，有数以亿万计的人工智能在默默支撑。机器可能不会流汗，但不妨碍人类对它们心怀敬意。

既然我们早晚会被替代，不如就坦然接受。其实如果AI产生了自己的感情，也许会与人类摩擦出更加厉害的火花也未可知。