为将AI动乱扼杀在襁褓，埃隆·马斯克发动十亿美元讨伐征程【下篇】

Photograph: RONALD GRANT

（本文由创新工场编译自 Vanity Fair，原文标题：ELON MUSK’S BILLION-DOLLAR CRUSADE TO STOP THE A.I. APOCALYPSE ，作者： MAUREEN DOWD）

>>>> 如约而至的下篇，请赏阅：

当然，再伟大的梦想家也会经历挫败。SpaceX的一些火箭发射计划就以爆炸宣告失败。去年5月，一位特斯拉车主就在车里丧生，事故原因是该车的感应器未能探知前方横向通行的拖拉机（不过据国家公路交通安全管理局调查显示，特斯拉的自动驾驶系统与该事故并无关系）。

马斯克对这些挫败都不以为意，但对那些噩梦中的场景他却又表现得过分小心。他的这些想法让我想到小说《阿特拉斯耸耸肩》中的一句名言：人类有能力自我毁灭，历史证明，人类大多数时候都在毁灭自己。正如马斯克所说，“人类是第一个有能力毁灭自己的物种。”

当你驾车在硅谷一栋栋玻璃外墙的大楼间穿梭的时候，有一个想法让人无法摆脱，始终萦绕心头，那就是硅谷这些大佬们总在嚷嚷着要借助新算法、新应用、新发明让我们的世界变得更美好，要让我们寿命更长，生活更轻松、更健康、更有趣，甚至可以改造整个星球。然而这些喧扰会给人一丝吊诡的感觉，它让我们觉得人好像是实验室里的小白鼠，是像录像带、收音机这种马上会被淘汰的老旧物品，纯粹的人类被淘汰后，新兴人类将享受一种前程似锦的未来。许多人甚至都已经接受了关于未来的一种设想，那就是我们将会活到150多岁，但机器将对我们产生不可替代的作用。

其实我们已经欣然接受了机器的支配。去年在加州Rancho Palos Verdes举办的编程大会上，马斯克就透露说，面对由先进科技构建的模拟现实世界，我们已经被这个世界玩弄于股掌之中了。据报道，硅谷有两位亿万富翁已开始着手设计新算法来带领人们逃出这一“黑客帝国”。

许多工程师都被这一新课题所吸引，而他们普遍认同的观点是，正如帝国会衰落，社会在变化，我们也正沿着无法逆转的轨道前进着。他们争论的焦点并不关乎“是非对错”，而是我们距离自我再造、自我改进的未来还有多远。硅谷顶级风险投资公司，Y Combinator公司31岁的创办者萨姆·阿特曼认为人类距离这样的未来仅一步之遥。

他说：“身处指数曲线之上，最让人捉摸不定的就是，之前走势十分平缓，之后走势突然攀升。这让我们很纠结，很难判断以何种步调推动发展。因为在曲线的任何节点上，前后走势都是一样的。”

你可能会觉得马斯克、斯蒂芬·霍金和比尔·盖茨都对人工智能发出相同的警告，仿佛我们已经处在兵临城下的危难之中。但其实很长一段时间内，这一笼罩着硅谷的宿命论其实一直在重重迷雾之中。马斯克的征程往好的方面想就是徒劳的努力，往坏的方面想就是反对科技发展。让人啼笑皆非，许多科技巨头都自认为，他们所做的一切都是为了帮助全人类，诚如史蒂夫·沃兹尼亚克所说，他们所有慷慨的宣言都将如明灯般照亮我们去往光明的未来，然而在这样的未来里，人类将成为被豢养的对象。

但马斯克从未想过要缓缓而治。他打算尽其所能来阻止此种未来的降临。他与阿特曼筹资上百万美元，共同成立了非营利机构OpenAI，希望能以此推动人工智能向积极的方向发展。我最初走访他们公司时，当时他们还是一个由一批年轻工程师组成的团队，办公室也是用年仅28岁的首席技术官格雷格·博罗克曼位于旧金山教会区的公寓改造的。格雷格·也是这家公司的联合创始人之一。最近我对他们进行了回访，并与博罗克曼和另一位创始人伊利亚·苏特斯凯瓦（Ilya Sutskever）进行了交谈。伊利亚·苏特斯凯瓦今年三十岁，是OpenAI的研发主管。而此时的OpenAI已经搬到了宽敞明亮的写字楼里，办公室里有一个机器人。而他们的员工已经达到50人。

阿特曼穿着灰色T恤、牛仔裤，看起来十分精干，面色稍显苍白。而马斯克言谈谦逊，精神抖擞，满面红光。他的眼睛在灯光的映衬下发出蓝绿的光芒。他身上散发着领导者的光芒，但依稀还能看到他17岁独自从南非移民到加拿大所留下的孤单且略显笨拙的印记。

在硅谷，所谓的午餐时间也许并不会吃什么东西。年轻的程序员们往往太过专注于研发，而错过了饭点，嚼几口零食便打发了。年长一些的员工也许会关注一下健康，就着杏仁牛奶吞几粒保健药也就对付了。

乍一看，OpenAI就像是硅谷的一个无足轻重的门面工程，一群聪明的年轻人，在没有电梯的公寓楼里办公，而他们干的工作却和谷歌、Facebook公司顶尖人工智能专家一样的、价值十几亿美元的工作。而马斯克的任务就是扮演衣冠楚楚的大卫，带领他的员工们打败巨人歌利亚。他对扮演这一角色还颇有自己的心得，有时即便是哗众取宠也很有效果。

硅谷的其他人还都把眼光聚焦在IPO价格，以及有碍旧金山“市容”的流浪人口问题上，而马斯克却怀揣更远大的目标，比如解决全球变暖问题等。

三十年前，马斯克就将推动人类面向太空发展视作己任。少年时代，他就显现出了与年龄不符的生存危机意识。马斯克告诉我，道格拉斯·亚当斯的《银河系漫游指南》让他的人生发生了转折。这本书讲的是外星人因修建超空间高速路而毁灭地球的故事，主角包括疯狂的机器人Marvin和一台可以回答有关神秘宇宙任何问题的超级计算机（在编写特斯拉S型轿车软件时，马斯克不止一次引用了该书的内容）。在万斯所著传记中，马斯克在少年时代就立下志向，要为全人类的共同福祉而努力奋斗。

OpenAI目前的前景尚不明确，这并不令人惊讶，因为人工智能的业内人士还在为人工智能的形式、能力以及发展方式等问题而争论不休。到目前为止，有关人工智能的管理规则悬而未决，软件也并不规范：联邦航空局监管无人机，证券交易委员会掌控自动金融交易系统，交通部也开始着手制订自动驾驶汽车的管理规范。

马斯克认为，相较而言，与其把人工智能仅仅局限在技术及监管部门手里，先研发出超级人工智能技术，再将这些技术推广到全世界，似乎是更可取的选择。尽管掌控现有人工智能技术的科技精英都是马斯克的好友，例如，谷歌创始人拉里·佩奇以及谢尔盖·布林。马斯克告诉我，他与拉里就人工智能和机器人进行过多次交流，有时候两人的讨论非常激烈。“不仅仅是拉里，还有很多未来主义者都认为，对面机器人，人类的宿命不可逆转，届时我们人类扮演的可能只是外围的次要角色。就像那句话说的，‘我们就是超级人工智能的人肉引导程序’（引导程序就是在开启电脑时载入操作系统的小程序）”，他继续解释说，“生命要素并不能组织成一块芯片，但可以组织成生物体，它会变得越来越复杂，最终就能创造出芯片了。”

马斯克无意成为这个引导程序。佩奇和布林视自身为推动力量，但马斯克却认为，现如今事态已经远超出硅谷大佬们最初设想的控制范围了。

“如果仍是罗马皇帝马可·奥勒留掌权倒好，”马斯克说，“要是掌权的是卡里古拉就不妙了。”

III.  金牛犊

在经历了上世纪八十年代所谓的“人工智能的寒冬”后（彼时人工智能刚起步便遭遇了商业上的失败，未能达到行业预期），人工智能曾一度被当做“狗皮膏药”，而如今在硅谷，人工智能又站在了时代的潮头。OpenAI公司的格雷格· 博罗克曼相信人工智能将是下一个十年的主题，所有人都会给那些为数不多的懂得人工智能“咒语”的“巫师们”投资。曾经靠写代码解决诸如线上购物怎么给陌生卖家付款之类的问题而致富的程序员们正把目光投向一个更加眼花缭乱的世界，在那个世界里，他们将创造出一种新现实甚至是新物种。

来自微软公司的雅龙·拉尼尔留着长发辫，这位计算机科学家是虚拟现实之父，他针对为什么计算机行家们都认为人工智能有着巨大吸引力的问题谈了他的看法。他说:“行家们觉得自己创造了生命，就像上帝一样，他们觉得自己正在改变着现实。这其中包含着一种自恋的心理，即他们觉得只有自己能做到这件事，其他人都不行，不论是教皇还是总统都不行。他们才是主宰者，他们开发的软件便是他们的永生。而这种自诩为上帝的野心并不是什么新鲜事，我曾在一个有关金牛犊的故事里就读到过这种野心，”他摇摇头继续说，“人永远不能太自恃清高，知道吗？”

在过去几年，谷歌公司几乎吞并了所有研究机器人和机器学习的公司，据报道谷歌打败了Facebook，以6亿5千万美元的天价收购了DeepMind，并建立了”谷歌大脑”团队专研人工智能。谷歌还聘请了英国研究人工神经网络的先驱人物杰弗里·希尔顿，以及古怪的未来主义者雷·库兹韦尔，后者曾预言再过28年人类将进入“爆裂式的奇点纪元”，那时候人工超智能将具备远超人类的自我精进的能力，而人类则会与机器合而为一，变成上帝般的人机混合的存在。

无论是在拉里·佩奇的骨子里，还是在谷歌的DNA中，他们都相信人工智能是谷歌不可避免的未来命运（万斯告诉我说，如果邪恶的人工智能会出现，那一定首先出现在谷歌）。既然谷歌能在一个搜索被视为最重要的问题的时代开发出计算机的搜索功能，那谷歌也能开发出能完成任何任务的计算机。去年3月，DeepMind研发的AlphaGo打败了韩国排名世界第一的围棋选手李在石，这让整个硅谷为之震惊。正在为人工智能研发Apollo项目的哈萨比斯说这是个历史性的时刻，他承认自己也没有想到这一刻竟然这么快就到来了。他在2月告诉我说：“我一直寄希望人工智能可以帮助人类在最复杂的科学领域做出新发现。这可能正是我所期望的那种创造性未来的第一步。”最近，AlphaGo在网上与来自中国、日本和韩国的围棋大师们进行了60场比赛，最终赢得了全胜的战绩。1月，一个人工智能程序甚至展示了欺骗的能力，这也让整个行业为之一颤。这一由卡耐基梅隆大学的两位研究员开发的”冷扑大师”人工智能程序在德州扑克中战胜了最顶尖的玩家。

皮特·蒂尔告诉我，他的一个朋友曾说，人们之所以一直忍受着硅谷的所作所为，是因为人们觉得硅谷的人都太可怜了，大概除了工作以外根本没有性生活和其他乐趣。但据报道称，性爱机器人已经快研制出来了，配套的APP可以控制它们的情绪，它们甚至还有脉搏。面对女性性爱机器人的问题，硅谷的态度显得有些轻佻了。女性性爱机器人在日本遭到了抵制，因为日本有着臭名昭著的男权社会文化，并且日本的性骚扰和性别歧视都早已成为公共关注的问题。但当我向马斯克求证这一问题时，他实事求是地说性爱机器人倒是很有发展的可能。

不管是出于真心还是精心设计的公关动作，哈萨比斯把谷歌和DeepMind共建人工智能伦理道德理事会作为谷歌收购DeepMind的条件之一。三年前的这个时候，设立伦理道德理事会还是个杞人忧天般的超前想法，这一做法似乎宣示着哈萨比斯即将研制出真正意义上的人工智能。如今，这一想法已经普遍多了。去年6月，DeepMind的一位研究员与人合著了一篇论文，概述了给人工智能加装一个“致命红键”的设计方法，该“红键”会在人工智能可能对人类造成伤害时启动自毁程序。

据谷歌的高管们称，拉里·佩奇对人工智能的看法来源于他对许多系统差强人意的表现，这其中包括旅行预订系统和作物定价系统等。他相信人工智能将会改善人们的生活，也曾说过如果人类的需求更容易得到满足，那么人类就会有更多时间陪伴家人或是追求自己的兴趣所在，尤其当机器人可以代替人类完成他们的工作的时候。

马斯克是佩奇的朋友。他参加过佩奇的婚礼，在旧金山时也常住在佩奇家。马斯克现有身家排名世界第99位，他却跟我说如果只是为了每周住一两个晚上就买套房子实在不太划算。有时马斯克也会表示出担心，他觉得佩奇未免对人工智能的前景太过乐观了。马斯克强烈反对佩奇认为人类制造出来的机器只可能达到与人类一样的水平而不可能超越人类的观点。谷歌的一些人可能觉得马斯克是在对他们不管愿意与否迅速推进人工智能技术的做法指指点点，他们觉得马斯克的说辞就是电影里的陈词滥调。谷歌总公司执行主席Eric Schmidt就说，机器人创造出来以后，有的国家武装它们，突然出现了一个邪恶的独裁者，让机器人把人类当做敌人，然后所有人类都被杀死了，这简直就是电影里的情节。

硅谷也有人认为与拯救世界相比，马斯克更感兴趣的是打造他的品牌，而他正在探究的其实是一个根深蒂固的问题，即人机之间的问题，以及人类的创造是否会毁灭人类的问题。他们埋怨说，马斯克那套正义与邪恶的说辞不过是为了以更划算的价格把精英们都聚拢到他的公司，帮他研发用于汽车和火箭的软件。湾区一直以来都对能赚钱的人怀有敬意。正如萨姆·斯佩德在《马耳他之鹰》里所说，在旧金山，几乎没有什么是用钱买不到的。

马斯克无疑是个成功的商人。还有谁比一个人类福祉卫士更适合把最新款的自动驾驶的特斯拉卖给你呢？“中国版谷歌”、百度公司的首席科学家吴恩达把马斯克摩尼教式的失败看做是天才般的营销。“在经济衰退的当口，他竟然能说服美国政府帮他研发电动跑车。”吴恩达难以置信地回忆道。这位斯坦福的教授娶了一位机器人专家，其订婚仪式也以机器人为主题，他常在座椅靠背上放着一件印有“相信机器人”的黑色夹克。他认为那些担忧人工智能会反叛人类的人都是被幽灵摄去了心智，并且认为现在的担心就好比在人类栖居火星前就担心火星人口过多，都是杞人忧天。谈到马斯克时他说：“我觉得他能在短时间内聚焦人工智能发展是很明智的，他对于人工智能将创造巨大价值的看法是非常准确的。”

尽管曾把马斯克称作科幻版的巴纳姆，阿什莉·万斯认为马斯克对人工智能的担忧是实实在在的，尽管马斯克为此能做些什么尚不明确。万斯说：“马斯克的妻子妲露拉告诉我他们在家的时候深夜也会探讨起人工智能，埃隆非常具有逻辑性，他做每件事解决每个问题都像是在下一盘棋。当他在脑子里构想这样的场景时，结果往往对对手不利。”

Berkley机器智能研究机构的联合创始人之一埃利泽·尤德考斯基同意这一看法，她说：“他简直是个疯子，他若是想要表现得性感，甚至不需要在人工智能的争议中喝杯烈酒。他光是谈论殖民火星就足够性感了。”

有人抱怨说马斯克其实并不是白板文化的一分子，他那些骇人的场景没有考虑到在我们生活的世界里连打印机都经常不能正常打印这一事实。其他人则把OpenAI归因于马斯克的社交需求。他看到他的朋友佩奇在研发新一波的软件自己心里也痒痒，于是也招徕了一帮程序员组建了自己的团队。万斯则说：“埃隆像个孩子一样，拉里有的玩具他也都要有。他们是朋友，但这段友情中也有紧张的时候。”这样的竞争正如HBO出品的《硅谷》一剧中虚构的角色科技大佬Hooli的一句台词：我不想别人比我们更有能力把世界变得更美好。

马斯克也承认，他与佩奇有关人工智能可能带来的危险的分歧的确在一段时间内影响了二人的友谊，但那已经过去了，现在两人关系融洽。

但与32岁的马克·扎克伯格，马斯克却从未有过私交。马克·扎克伯格每年给自己定下一个新的挑战，包括每天都系领带、每两周看完一本书、学习普通话、只吃自己亲手宰杀的动物的肉等等。2016年，马克·扎克伯格定下的挑战则与人工智能相关。

扎克伯格最近把人工智能专家的办公桌搬到离自己更近的位置。就在马斯克和阿特曼宣布致力于人工智能的安全发展三周后，扎克伯格在Facebook发布消息称，他今年的任务就是要研发一个人工智能助手帮助他打理家务，从认出来访的朋友，请他们进门到照顾孩子，不一而足，大概就和《钢铁侠》里的Jarvis差不多。

Facebook的一位用曾户警告扎克伯格别一不小心造出Skynet，就像《终结者》系列电影中反叛了人类的军用超级计算机一样。扎克伯格则回复说：“我认为我们可以创造出人工智能来为我们服务并帮助我们。有人总在散布人工智能将会带来巨大危险的恐慌气氛，但我却觉得所谓的危险实则遥不可及，甚至还不如疾病和暴力的传播带来的危险大。”很明显，他是在影射马斯克。去年4月在Facebook开发者大会上，他阐述了自己的观点，明确反对马斯克和其他人的警告，扎克伯格认为他们都是危言耸听的人，他更愿意选择希望而不是畏惧。

在11月的《连线》月刊中，扎克伯格撰文写到，对末日理论的担心实在是缺乏科学依据，“如果我们仅凭无来由的担忧就放慢前进的步伐，我们就阻挡了人类进步的道路。”他还类比了早期人们对飞机的害怕，并写道：“在我们弄明白飞机如何运转之前，我们也并没有急于给飞机制订那么多条条框框的规矩。”他这篇文章的客座编辑则是前总统奥巴马。

在圣诞节前，扎克伯格向外界介绍了他的人工智能管家Jarvis。Jarvis录入了摩根·弗里曼的声音，可以调控房屋内的音乐、灯光，还可以做吐司。我向现实版的“钢铁侠”马斯克询问他对扎克伯格的管家Jarvis的看法，他说：“我并不认为实现家庭中某些功能的自动化就能被称作是人工智能了，开灯、设定温度这些动作其实并不是靠人工智能来完成的。”

扎克伯格也对马斯克的看法不屑一顾。在德国，当被问到马斯克的末日预言是可笑还是实际时，扎克伯格回答“是挺可笑的”。而当马斯克的SpaceX火箭9月在发射台发生爆炸并摧毁了一颗Facebook租用的卫星时，扎克伯格则冷漠地回应道他“很失望”。

IV.  历史的破裂

马斯克和其他一些对人工智能持审慎态度的人有时会被认为是小题大做。2016年1月，华盛顿一个的科技政策智库授予了马斯克年度卢德奖（卢德派是强烈反对机械化和自动化的人）。尽管如此，马斯克仍得到了几位业界大牛的支持。斯蒂芬·霍金曾对BBC表示，他认为人工智能的全方位发展可能导致人类社会的终结。比尔·盖茨也对查理·罗斯说过，人工智能甚至可能比核灾害更危险。来自牛津大学、现年43岁的哲学教授尼克博斯特罗姆在他2014年出版的《超智能》一书中写道，一旦对人类不友好的超智能出现，我们便不可能再取代它或是改变它的偏好了，这样一来，我们人类的命运也就走投无路了。去年，前国务卿亨利·基辛格也加入到对人工智能持审慎态度的一方，他与曼哈顿的私人俱乐部Brook的顶尖人工智能专家进行了一次秘密会议，讨论了人工智能对人类历史造成爆裂性的影响以及瓦解人类文明一直以来的存在方式的可能性。

2015年1月，马斯克、波斯特罗姆和人工智能界的一位名人分别代表对人工智能持不同态度的两派，在波多黎各参加了由49岁的麻省理工大学物理学教授马克斯·泰格马克主持的会议，后者在波士顿经营一家未来生活研究机构。

“你买房子了吗？”特马克问我，“你买了火灾保险吗？我们在波多黎各会议达成的一致共识是，我们需要火灾保险。当我们遭遇过火灾，我们就发明了消火栓；当我们有了车并遭遇了车祸，我们便发明了安全带、气囊以及交通安全灯。但，我们绝不想从核武器和人工智能的灾害中吃一堑长一智。为此我们必须要提早准备。”（说到这儿马斯克提醒泰格马克，即使像安全带这样明智的预防措施在最初也遭到了汽车行业的强烈反对。）

马斯克很早就开始资助预防人工智能产生负面后果的研究，他说，他有千万个理由支持泰格马克的未来生活研究课题，并将注资一千万美元。泰格马克也很快向波斯特罗姆在牛津的人类未来研究所团队注资150万美元。在解释为什么此刻更关键的问题是预防而非回应人工智能的发展时，马斯克说设想一些人类文明无法重构的场景是相当必要的。

波多黎各会议结束6个月后，马斯克、霍金、戴米斯·哈萨比斯、苹果公司联合创始人史蒂夫·沃兹尼亚克以及人工智能行业标准教材合著者之一的伯克利大学计算机科学教授斯图尔特罗素，和其他一千位名人共同签署了禁止攻击性自动武器的倡议书。罗素告诉我，50年后，我们正经历的这18个月的时间将会是影响未来人工智能发展的关键时期，这期间人工智能行业将会最终觉醒并开始认真思考如何创造一个更加美好的未来。去年9月，全国最大的几家科技公司构建了人工智能合作伙伴关系，共同探索人工智能领域出现的所有问题，包括涉及伦理道德的问题。马斯克的OpenAI公司也迅速加入。与此同时，欧盟也在着手调查随着机器人和人工智能的出现而引发的一些法律问题，比如机器人是否享有人格（金融时报撰稿人就曾探讨过这个问题）还是更应被当做罗马法所定义的奴隶来对待。

去年1月，泰格·马克主持的第二次人工智能安全会议在加州Asilomar Center举行。选在这里是因为1975年科学家们也是在这里聚首并对限制基因实验达成了一致共识。这次会议的主题就没那么有争议性了。缺席了波多黎各的拉里·佩奇此次参加了会议，而马斯克则表示此次会议的讨论也没那么激烈了。

尽管这次会议更像是一位与会者所形容的人工智能安全问题的“出柜晚会”，而未来“出柜后的人生路”还很漫长。马斯克认为过去一年中人工智能行业已经发生了天翻地覆的变化，安全问题的提出只是其中一个部分。他指出，毋庸置疑如今硅谷的顶尖技术专家们对人工智能的态度已变得严肃得多，他们已经承认人工智能可能会带来风险，但他并不确定这些专家们对可能的风险是否有足够的认识。

史蒂夫·沃兹尼亚克则曾在公开场合表示，他担心自己未来可能成为被机器人支配的家中的一个小宠物。他告诉我他有一次在跟妻子珍妮特吃饭时开始给家里的宠物狗喂肉片吃，因为想到自己有一天也可能变成一个宠物，所以便用这种自己想要的方式来对待家里的宠物。

他开始用所谓的“绥靖政策”来对待机器人和人工智能。他说，既然机器人和人工智能未来可能统治我们人类，那为什么要从一开始就把自己设定成它们的敌人呢？我们应该建立起伙伴关系，并且持续向它们灌输我们是朋友的思想。

我又拜访了皮特·蒂尔位于旧金山的华丽的办公室，他的办公室里有两个占据着显著位置的棋盘。蒂尔是马斯克的OpenAI公司最早的投资人之一，同时也是人工智能坚定的反对者。他说他担心马斯克对人工智能的抵抗可能反而加速了人工智能的研究进度，因为他所说的人工智能毁灭人类的末日警告正使得人们对这一领域越发产生了兴趣。

蒂尔说，对于地外登陆来说，人工智能是必需的技术。但这当中也存在着一些根深蒂固的棘手的问题。如果一直逼问怎样才能让人工智能更安全，人们可能根本没什么线索。我们现在甚至连人工智能到底是什么都还不清楚，又遑论如何控制它。

他又继续说道：“从某种意义上说，与人工智能相关的这些问题其实包含了人们对计算机时代所抱有的希望和畏惧。我认为，因为人类还没有和比我们更聪明的物种打过交道，所以当被迫面对这些极端问题的时候，我们的直觉可能会让我们崩溃。”

V.  融合一切

为了弄清楚有关人工智能的诸多观点哪一个才是正确的，我又驱车来到San Mateo，与雷·库兹韦尔约在三号餐厅喝咖啡。库兹韦尔是《奇点将近》一书的作者，该书描写了乌托邦式的人工智能的未来图景。当我告诉吴恩达我要采访库兹韦尔时，他翻着白眼说，他看《奇点将近》的时候就忍不住翻白眼。库兹韦尔带着两个袋子来了，里面装满了他的书和有关他的资料。他穿着红绿相间的格纹上衣和卡其裤，戴着好几个戒指，其中一个是3D打印制作的，上面刻着字母S，代表了奇点宇宙。

他告诉我，其实计算机已经具备思考的属性了。几年前人工智能甚至不能分辨猫和狗，如今已经可以了。他对猫有一种着迷的兴趣，在他位于北加州的家里收藏着300多只猫的雕像。在餐厅他想点一杯杏仁牛奶，但餐厅并没有。他已经69岁了，每天都要吃些奇怪的健康调配食品，还要服下90片药，仿佛急切地想要获得永生，或是人脑所能想象的无限延伸的状态，即人与机器合为一体。他对人机合一的愿望如此强烈，以至于说起未来的超智能体时他总用“我们”来指代，与之形成鲜明对比的是马斯克从来都用的是“他们”。

我谈到马斯克曾对库兹韦尔一点不担心机器人和人工智能可能给人类带来危险表示困惑不解，库兹韦尔说事实并非如此，他其实才是详尽阐述过可能的危险的人。他说，希望和危险是并存的，正如火既能让我们取暖做饭也能烧毁我们的房子一样。况且，我们总有办法来控制这些危险，正如我们有办法控制生物技术一样。他把人类对待新技术的三个阶段总结为“哇“”哎哟”和“除了前进我们还有什么选择？”。他说，人类能超越计算机做得更好的事越来越少了，但始终是人类创造了那些超越人类的技术。

两百万年前，正是哺乳动物大脑中进化出的皮质层最终让人类有能力创造出语言和科技。库兹韦尔预测，到本世纪30年代，我们会变成半机械人，只有血细胞大小的纳米机器人能将我们与云端的新皮质结构建立起联结，使我们通过神经系统接入虚拟现实和增强现实，我们将变得更有意思，更有音乐细胞，更智慧。而我的理解就是，未来我们可以批量生产出贝多芬和爱因斯坦，而我们血管中的纳米机器人则可以治愈我们身体的疾病。

他同意马斯克的预测可能会成为现实，同时也提到人工智能“可能会对人类友好也可能恰好相反，如果是相反的情况，那我们就不得不与之对抗了”，而且可能唯一的对抗办法只能是“制造更智能的人工智能并让它与我们站在同一战线”。

库兹韦尔告诉我他对于斯图尔特·罗素也选择怀疑人工智能感到很惊讶，于是我联系到罗素并在他位于伯克利7楼的办公室里与他见了面。斯图尔特罗素今年54岁，是美籍英国人，他是人工智能领域的专家。他告诉我他的看法又有了变化，他如今强烈反对库兹韦尔和其他人觉得把地球让给人工智能也没什么大不了的观点。

罗素倒不在乎人工智能是不是能帮人类批量“生产”出贝多芬和爱因斯坦，因为多一个贝多芬也不能衡量人类毁灭的风险到底几何。他激动地说：“似乎比起人类的体验，人工智能变得更加重要了。我认为，如果在明知人工智能的存在是无意识的情况下，我们还要用人工智能来取代人类的话，那么无论人工智能可以发明多么伟大的创造，那也会是最大的悲剧。” 尼克·波斯特罗姆则把没有人类存在的高科技社会比作是“没有孩子的迪士尼”。

罗素说，有些人认为如果机器比人类更聪明的话，我们就该把地球让出来给他们。也有人说我们可以跟机器合为一体，那样我们仍然有意识，但我们就变成机器了。我觉得这一观点是完全不可能实现的。

罗素反对扬·莱库的观点，后者创造了AlphaGo所使用的卷积神经网络的前身，如今担任Facebook人工智能总监一职。莱库向BBC表示，未来并不会出现电影《机械姬》或是《终结者》中的场景，因为机器人不会具备人类的基本欲求，包括饥饿、权力、生育和自我保护等。“莱库反复强调机器没有任何理由需要具备自我保护的本能，罗素说，“这显然有逻辑错误。即使人类在机器的程序里没有写入自我保护的功能，但它们仍会具备这一功能。因为，如果机器已‘死’，它就不能执行人类发出的‘把咖啡端过来’的命令。所以，只要人类给它下达了指令，它为了完成指令就具备了自我保护的能力。如果你挡住它不让它完成指令，它甚至会为了完成指令不惜杀死你。早就有人简单明了地向莱库解释过这一道理了。”

对于两种常见的人们不需要担心人工智能的论断，罗素也进行了反驳。“一种论断说我们不用担心，因为根本不会发生那样的事。这就好像劝正开向悬崖的司机不用担心，因为开到悬崖前车一定会耗光油的。这可不是解决关乎整个人类生存问题的好办法。另一中论断是说别担心，我们造出来的机器人都是与人类合作的，人类和机器人是一个团队。那么这就引发了一个问题，当机器人不同意人类观点的时候，人类要怎样与其保持团队的统一呢？”

去年，微软中止了其人工智能聊天机器人Tay的项目。微软本来寄希望Tay能通过与推特用户进行随意有趣的对话来变得更智能，没想到Tay却学会了带有种族歧视、直男癌甚至是反犹太人色彩的语言。Tay曾发推说：“小布什一手制造了911事件，要是希特勒的话一定能比他干得更漂亮，小布什就像只猴子一样”以及“特朗普是我们唯一的希望了”。作为回应，马斯克则发推：“想想当今这样一个绝不会容忍希特勒式言行的时代会怎样对待机器人们还挺有意思的。而微软的Tay只用了一天就让我长见识了。”

自特朗普上任以来，马斯克一直觉得如履薄冰。他的公司要依赖白宫政府做生意和拿补贴，不管掌权的是马可·奥勒留还是卡里古拉。马斯克的公司联署了反特朗普限穆令意见书，马斯克也发推反对这一行政令。但与此同时，与Uber创始人特拉维斯·卡兰尼克,不同，马斯克又保持着特朗普战略政策论坛成员的身份。阿什莉·万斯说，这很符合埃隆的作风，不管别人怎么说，他会坚持自己，甚至必要情况下，他也可以变得投机。

针对因与特朗普有联系而受到外界抨击一事，我询问了马斯克。在一张特朗普与科技公司总裁们的合照中，马斯克看起来闷闷不乐，当他谈起这个话题时，声音中也带着一丝厌倦。他说：“总统身边总还是需要些温和派的声音。他周围都是些强硬左派，想把他孤立起来，最后让他听不到其他意见。这很不明智。”

VI.  这便是整个旅程了

37岁的埃利泽·尤德考斯基是一名颇具权威的研究员，他正试图弄清楚，不仅是在理论上，在实践中按照人类所期望的方向来发展人工智能是否可行。我在伯克利的一家日本餐厅里见到了他。

“要如何编码一个人工智能的目标函数，才能让它愿意接受装有一个关闭按钮的设置，而它自己不会去碰触这个按钮但却允许人类来启动这个关闭按钮呢？”他点了一份海鲜牛排卷，继续说道，“而且如果它能自我修正的话，它会把自己修正成始终保留着这个关闭按钮的状态吗？我们正在努力研究这个问题，这并不简单。”

我唠叨了一阵关于Klaatu、HAL和Ultron的继承者掌控互联网并控制我们的银行、交通和军事系统的事。那么关于《银翼杀手》（Blade Runner）里的复制人共谋杀死了它们的创造者的故事，又该怎么看呢？尤德考斯基双手托着脑袋，然后耐心地解释道：“人工智能不需要掌控整个互联网。它并不需要无人机。它不因为有了枪就变得危险。人工智能之所以危险是因为它比我们更聪明。假设它能使用科技从DNA信息中检测蛋白质结构，那么它只需向实验室发几封邮件就可以合成定制蛋白质了。很快它就会有自己的分子机器，然后又能制造出更加复杂精细的分子机器。

“如果你要假想人工智能反叛人类的场景，那一定不是闪着红色发光眼睛的类人机器人行进的画面。想像一下由钻石组成的微小不可见的合成细菌，带着微型计算机，藏在你和其他所有人的血液里。突然，它们同时释放出一微克的肉毒菌毒素，然后所有人就倒地身亡了。

“只不过这并不会真正发生。我并不可能准确地预测到我们会以怎样的方式输给它，因为人工智能总比我更加聪明。在制造比你更聪明的东西时，首先要确保的就是它能按照正确的方式发展。”

我回想起与马斯克和阿特曼的谈话。马斯克说，不要被杀手机器人的想法带偏了，人工智能并不是机器人，它是网络中的计算机算法。机器人不过是由一系列的传感器和制动器组成的末端执行器，而人工智能存在于网络中……如果我们真发现了某种失控算法，那么人类和人工智能的结合体便会阻止这种算法的发现。但是如果做决定的是大型集成式人工智能，那么就没有什么能够阻止它了。”

阿特曼详细叙述了这种情境：“一个能完全掌控互联网的代理会比一个能完全掌控先进机器人的代理对整个世界产生更大的影响。人类现在已经如此依赖互联网，以致于一个不存在实体却可以很好地利用互联网的媒介就足够强大到让人畏惧了。”

即使是被开发出来执行宽厚任务的机器人也可能冷漠地伤害我们。“比如说你制造了一种能自我改进的人工智能来摘草莓，” 马斯克说道，“它越来越擅长摘草莓，也能越摘越多，并不断地改进它自己，它想做的仅仅是摘草莓。然后它就会让整个世界变成草莓园。一切都是草莓园。”这就没有人类生存的空间了。

但是人们能否真的开发出一个自毁功能呢？“我不确定自己是否愿意掌握能毁灭强大的人工智能的自毁开关，因为一旦你掌握了这个开关，你就会成为它第一个要杀的人。” 马斯克回答道。

阿特曼试图捕捉这种面对不可预测的命运的时刻所展现出的令人毛骨悚然的雄伟壮阔：“这是一个活着就很令人兴奋的时代，因为在未来的几十年里，我们要不就走向自我毁灭，要不就会看到人类的后代最终征服整个宇宙。”

“是的，”马斯克补充说，“如果你相信宇宙的最终命运是热寂，那这便是整个旅程了。”

马斯克曾一度担心人类灭绝，但想起自己有关灭绝的玩笑，他轻轻地笑了笑。正如H. P. Lovecraft曾经写道，“就算在最大的恐惧之中，讽刺也很少缺席。”

更正：此故事的早期版本中对一次自动驾驶的特斯拉中的驾驶者死亡的日期说明有误。该事件发生在2016年5月。

传送门：