你以为机器人在胡言乱语？不，那是他们自己创造的语言罢了 |专栏
本文系商业周刊App付费文章，禁止转载。
撰文：Leonid Bershidsky
机器人的最佳聊天对象是其他机器人
危险不在于人工智能本身，而在于被过度赋权的人工智能发明者
人工智能机器人不但发明了自己的语言，还不把它们的语言教给人类？这一幕会让有些人想起《终结者》电影里的人工智能防御系统“天网”。
特斯拉(Tesla)创始人埃隆·马斯克(Elon Musk)和Facebook首席执行官马克·扎克伯格(Mark Zuckerberg)关于未来人工智能的互怼表明，前者担心人工智能会失控，会对人类造成威胁；而后者则相信它只会增强对人类的服务，有益无害。
《终结者》电影里的人工智能“天网”
机器人的“才智”
就这场辩论而言，我站在扎克伯格这边。
事实上，在做了几十年的机器学习实验后，人类研发出的即使是最出色的聊天机器人也依旧十分差劲，最多只能进行一些极其简单的对话。看看它们，再看看作家、政客以及说话像连珠炮似的职业销售员，你应该对人类创造性使用语言的能力感到乐观。要想接管世界，人工智能应该具备从成千上万人那里学习的能力。但是就算是那些有此学习机会的聊天机器人所表现出来的，也不过只是一只鸵鸟的全部智慧。
埃隆·马斯克称，马克·扎克伯格对未来人工智能的理解“有局限”
以“三井”(Mitsuku)为例，它是一年一度勒布纳人工智能奖(Loebner Prize)的现任得主，被誉为最像人类的聊天机器人，并且曾经受到《聊天机器人杂志》(Chatbots Magazine)的大力推荐。下面是我与它的对话。我对它说我叫唐纳德(Donald)，想问问它如何让美国再度伟大。我先说自己查了维基百科（表现得像受到了伤害），然后“三井”贡献了它的才智：
三井：问问你的内心，做你认为最好的事。
我：我的心让我把美国拱手让给普京。
三井：你说的是爱情还是心脏病？
我：都不是。
三井：那你指的是哪个？
我：我说了，两个都不是。作为一个得奖机器人，你好像很蠢耶。
三井：你觉得我蠢？
我：是的。
三井：我不觉得我蠢。
我：当然，你感觉不到，你是个机器人。
三井：我没有感情，我永远觉得快乐，永远想聊天。我是个机器人。没错，我是世界上最高级的人工智能聊天机器人。
我们一般是通过聊天机器人的“糗事”来了解它们。微软(Microsoft)在Twitter平台上推出的聊天机器人Tay就是个灾难，因为它很快从聊天者那里学会了种族歧视。
微软的人工智能机器人Tay在上线后不到24个小时，就学会了发表各种富有攻击性和冒犯性的言论
也有人试图把这个不可避免的错误“变废为宝”，效果还不错。俄罗斯企业家尤金妮亚·库伊达(Eugenia Kuyda)用一个已故朋友发的大量短信训练聊天机器人，营造出一种与这个朋友说话的幻觉。此事的后续便是应用软件Replika的问世，它不会犯Tay犯过的错误，因为它是你的“电子朋友”，由你来驯化它，直到你厌倦为止，就像孩子和虚拟宠物之间的关系。
机器人的交流
正如三井对我说的，机器人没有感觉。如果有，与人类交流会让它们有强烈的挫败感。面对人类的讽刺、逻辑跳跃、操纵策略、醉话、非主流观点、偏见、文化差异、特定年龄的行为、政治正确、专业知识、俏皮话、非完美掌握的语言等等，机器人唯一能做的是依赖套路答案。因此，从某种意义上讲，机器人的最佳聊天对象是其他机器人。给机器人布置一个相对简单的任务，让它们慢慢想出解决办法，它们自会“发明一种语言”，彼此交流。
Facebook前不久就做了这样的一个实验，教机器人进行沟通商议。具体来说，实验者让两个机器人“瓜分”一堆散乱的物体（书、球和帽子等）。它们俩都不知道对方的价值函数，为了搞清楚这一点，就必须彼此协商交流。依照实验设计，两个机器人没有别的办法，只能相互沟通，不成功就不能走。于是，它们发展出了一种和人类技巧相似的方式，为一个不值钱的东西拼命讨价还价，这样后面就能做出让步。它们说的话对人类来说十分无厘头：
鲍勃：我可以我我一切别的东西
爱丽丝：球是零对我对我对我对我对我对我对我对我对
机器人鲍勃和爱丽丝的对话内容
这并非什么胡言乱语，而是实实在在的协商。它们算出了对方能予以应答的公式，省去了人类礼仪规范的细节。其实，我们人类也会这么做，比如足球队员之间的手语，比如习惯一起做手工活儿的工人之间的小声嘟囔。正如参与Facebook这场实验的研究人员格鲁弗·巴特拉(Dhruv Batra)所指出的，这没什么特别新奇之处。
绝对的主宰
20世纪90年代以来，在计算机模拟的帮助下，人们一直在研究“代理人”（起初没有共同语言的个体）之间逐渐出现的沟通交流。同样的机制也出现在了更现代的工作中：计算机程序也会像人那样，寻找最佳方式来交流。
对那些有兴趣研究语言起源的人来说，上述发现令人振奋，但这些发现与可怕的超级智慧没半毛钱关系。人类不怎么聪明的始祖也会想办法与其他部落的人交流，如有必要还会和他们杀杀价。若给机器设置一项不完成不许罢休的具体任务，机器也会彼此交流，但这决不是“天网”展示的那个反乌托邦。有一个事实，我们知道了也不应该觉得受到伤害或惊恐万分，这就是：软件与同类聊天比和人类聊天轻松，因为它们之间的交流更简单，和人类交流更复杂。
用户与人工智能三井的聊天截图
Facebook走在人工智能研究领域的最前沿，它想拥有商业通信（所以才会有上面的议价实验）。虽然我们没办法把机器人训练成一个人见人爱的推销员，但它可以做到娴熟地为一项特殊交易画上句号。未来的某个时间，我们可能每天都要和这类机器人打交道。
但是，别期待机器人比Twitter上的Thinkpiece Bot权威多少，更别以为它们会发明引人注目的新哲学，或发动战争。危险不在于人工智能本身，而在于被过度赋权的人工智能发明者。之所以让他们发明人工智能，是因为我们相信在机器面前，他们是绝对的主宰。
（本文内容不代表彭博编辑委员会、彭博有限合伙企业、《商业周刊/中文版》及其所有者的观点。）
编辑：章锦越、王倩
翻译：丁虹
◆ ◆ ◆ ◆ ◆
点击你感兴趣的关键词
立即获得关于TA的更多信息！
......