AlphaGo的背后英雄：DeepMind创始人（得米斯.哈萨比斯）

https://v.qq.com/txp/iframe/player.html?vid=q0023by2ixq&width=500&height=375&auto=0
AlphaGo的背后英雄：DeepMind创始人（得米斯.哈萨比斯）

https://v.qq.com/txp/iframe/player.html?vid=n01878mlxro&width=500&height=375&auto=0

DeepMind创始人（得米斯.哈萨比斯）：Demis Hassabis在牛津大学的最新演讲

引言：该篇文章是《卫报》对DeepMind创始人Demis Hassabis的深度专访，全面且深刻的还原了这位天才的性格、生活，以及对人工智能的热情和野心。他有着近乎传奇的早期经历，在国际象棋、游戏设计、计算机科学和神经科学等多个领域取得的成就形成了他从事人工智能伟大研究的完整拼图，他称自己为科学与创造力的结合体。Hassabis带领DeepMind进行开创性的人工智能研究，破解围棋这一历史难题，研究成果在极短的时间内两次登上《Nature》封面。而更加重要的是，DeepMind开创了一种科学研究与创业团队完美结合的机制。DeepMind在积极探索人工智能研究和应用的同时，在人工智能伦理研究方面也走在了全世界前列。Hassabis更是通过一次长谈说服了霍金，让他不再对人工智能大放厥词。Hassabis就像DeepMind的AlphaGo一样，像个超人一样保持高强度的工作和学习节奏，他把人工智能当成为之毕生奋斗的事业，也是他生活中的一部分。而Hassabis将和他的DeepMind继续朝着「解决智能  并用它来改善这个世界」这一目标前进。

李嘉诚又要有“大手笔”了？据微博@李嘉诚基金会5月29日消息，上周五（5月26日），李嘉诚请来了阿尔法狗（AlphaGo）的开发者，DeepMind的两位创始人给自己“上课”。过程中，李嘉诚这位好学的“好学生”数次激动站起。

       李嘉诚和DeepMind两位创始人（图片：微博@李嘉诚基金会）

微博称，DeepMind的两创办人哈萨比斯（Demis Hassabis）和苏莱曼（Mustafa Suleyman）讲解了人工智能研究方向与各种应用的阶段成果，李嘉诚要摘录笔记。

哈萨比斯于1976年出生于英国，17岁时就成为了游戏“主题公园”（Theme Park）的主程序员之一，大学毕业于剑桥，随后在伦敦大学学院 (University College London）拿到了自己的博士学位。苏莱曼则于19岁的时候从牛津大学退学，之后做了多份不同的工作。在2010年，两人共同创办了DeepMind公司，李嘉诚也在曾在DeepMind发展过程中投资。2014年，谷歌收购了DeepMind，同一年，AlphaGo的早期版本正式开发。

哈萨比斯对政府政策如何支持和平衡人工智能的发展有自己的见解，顾虑政府将把人工智能用于国防和武器发展。上课期间，李嘉诚听课很激动，数度站起来，两创办人也连忙礼貌地陪站。李嘉诚觉得能参与DeepMind早期投资是可贵的缘份。

李嘉诚已经是89岁的耄耋老人了，但是在投资方面，他一直显得非常年轻。旗下投资创新企业维港投资（Horizons Ventures），是DeepMind早期的投资者之一。不过因为DeepMind被谷歌收购，同时谷歌用高出数倍的收益价格发起收购，李嘉诚随后出售了手中所有的股份，但就在李嘉诚出售股票之后不久，DeepMind便开发出AlphaGo。李嘉诚还表示，能参与DeepMind早期投资是可贵的缘分，据中新网报道，李嘉诚全程关注了之前李世石和AlphaGo的比赛，随后也关注了柯洁的“人机大战”。

而除了DeepMind这家公司以外，他还投资了其他一系列的科技公司。李嘉诚曾经投资了美国最顶尖的人工智能研究公司之一Sentient Technologies，该公司的目标是开发“炒股狗”软件，用人工智能在市场上炒股。在过去的6年中，Sentient是硅谷获得风投最多的人工智能公司。2014年，这个用电脑进行独立投资的基金就吸引了大量的注意力。其投资方包括李嘉诚、印度钢铁大王塔塔集团（Tata Group），公司总共收到了14.3亿美元的投资，比第二名高出了50%还多。

三星在去年国庆节期间收购的美国AI公司Viv Labs也曾经受到过李嘉诚的投资。维港投资在2014年时，看中美国AI公司Viv Lab，并由周凯旋向李嘉诚介绍，在种子基金阶段时，已注资约7800万元。随后在三星的收购中，李嘉诚出售了手中全部的股份。最后，去年11月，维港投资与Iconiq共同领导了科技公司Soul Machines的A轮融资，数额为750万美元。该公司的目标是开发智能情绪响应虚拟机器，希望打造智能的、情绪化的、有血有肉的用户AI形象。

Demis Hassabis举止温和，面容谦逊，而当他告诉我他正在为「破解智能难题，然后用其来解决一切问题」的使命而奋斗时又格外认真。其他任何人说出这句话，听起来都十分可笑，但这句话从他的口中说出就另当别论了。39岁的Hassabis是一位前国际象棋大师、游戏设计员，他的人工智能研究创业公司DeepMind在2014年被谷歌以6.25亿美元收购。

他是移民后代，在伦敦芬奇利一所公立综合学院上学，分别取得了剑桥大学和伦敦大学学院（UCL）的计算机科学和认知神经科学学位。与他一起工作过的人们认为他是一个「有远见」的管理者。Hassabis认为他发现了一种「让科学研究更有效率」的方法，并提到他正在领导一个「21世纪的阿波罗项目」。他长相如此平凡，是那种你在街上不会看第二眼的人，但Tim Berners-Lee曾经向我这么形容他：他是这个星球上最聪明的人之一。

每次我们打开Siri或者收到Android的推送时，都会感到人工智能已经在我们身边。从短期来说，谷歌的产品将毫无疑问的从Hassabis的研究中获利，尽管这些技术所带来的个性化、搜索、YouTube、语音和人脸识别等产品的提升都没有被定义为真正「人工智能」（Hassabis对此笑称到：「它只是软件，对吧？它只是一个能运行的东西。」）。但从长期来说，Hassabis正在开发的技术并不仅仅局限于情感机器人和更加智能的手机，也不仅仅围绕着谷歌。

Facebook、微软、苹果和许多其他科技巨头们都在如饥似渴的招揽人工智能博士生，在这场最新的科技竞赛中砸入数十亿美元。人工智能关注所有的事情，包括我们能想象到的，以及那些我们想象不到的。它确实听起来太过野心勃勃。大部分人工智能系统应用范围都很「窄」，训练预设程序的机器去执行特定任务，除此之外再没什么了。因此，IBM的深蓝能在国际象棋比赛中击败Gary Kasparov，但却在井字游戏中输给三岁孩童。而Hassabis正在把他从人脑中得到的启发用于构建首个「通用学习机器」：一套能像生物系统一样学习的灵活、自适应的算法，仅使用原始数据就能从头开始掌握任何任务。

它就是通用人工智能（artificial general intelligence ，简称AGI），它的重点落于「通用」上。在Hassabis眼中，未来超级智能机器将与人类专家合作解决一切问题。「癌症、气候变迁、能源、基因组学、宏观经济学、金融系统、物理学等，太多我们想掌握的系统知识正变得极其复杂。」Hassabis指出：「如此巨大的信息量让最聪明的人穷其一生也无法完全掌握。那么，我们如何才能从如此庞大的数据量中筛选出正确的见解呢？而一种通用人工智能思维的方式则是自动将非结构化信息转换为可使用知识的过程。我们所研究的东西可能是针对任何问题的元解决方法（meta-solution）。」

虽然寻找「元解决方法」也许要花费数十年时间，但它看起来正在迫近。2015年2月，世界顶级科学期刊《自然》将像素游戏《Space Invaders》作为其封面，右下角是「自我教学软件在玩游戏上达到了人类般的表现」。在这一期，DeepMind的论文描述了首个成功的通用「端对端」学习系统，他们的人工代理——一个针对于图像处理单元的Deep-Q网络算法——能够学习如何处理屏幕的输入值并理解其含义，并采取能实现所需结果的决策（在这种情况下，系统成为众多雅达利2600经典游戏，如太空侵略者、拳击、打砖块中的超级玩家）。这是一项让整个科技界都为之震撼的突破。

接着，在上个月，DeepMind又占领了《自然》封面——在短期内获得如此成就非常惊人。这一次，它变本加厉的挑战上世纪70和80年代的复古游戏。围棋在中国有着超过2500年的历史，曾经出现在孔夫子笔下。围棋的分支系数非常大：每一颗棋子可能的走法数量超过了整个宇宙的原子数量，而且不像国际象棋，它无法用蛮力计算来得出结果。更加困难的是，想要写出围棋的评估函数是一件不可能的事，例如能够体现出谁处于优势位置以及优势多少的一套规则。反而，它取决于棋手的一些类似于「直觉」的东西：当被问到为何这样落子的时候，大师们通常的回答是「感觉如此」。

很显然，计算机在做出这方面的判断时会表现很糟，围棋也因此被认为是人工智能领域「悬而未决的重大挑战」之一，大部分研究者预期还需要十年机器才能有希望破解它。DeepMind的新算法有着严格的同行评审证据，AlphaGo在去年秋季秘密的一场对决中以5:0击败了曾三次获得欧洲冠军的樊麾，并将在今年三月与世界冠军李世石对决。「令人瞠目结舌的进步」，帝国理工学院认知机器人学教授Murray Shanahan如此形容。「一个了不起的里程碑」，超人类主义哲学家Nick Bostrom也表示同意，后者写出的《 Superintelligence: Paths, Dangers, Strategies 》指出：如果通用人工智能可以出现，这将是一个无法比肩的事件——借用下谷歌工程主管Ray Kurzweil的话：这将是一次撕裂历史的断层。Bostrom告诉我在他牛津人类未来研究所的办公室中，AlphaGo的成就被认为「将过去几年间机器学习所取得的进步生动的表现了出来」。

「这非常酷。」Hassabis很平淡的说到，我们在他的办公室讨论着最新的胜利。像平常一样，他穿着没有任何特点的黑色上衣、裤子和鞋子：实在难以想象这实习生装扮的家伙拿到了谷歌的8000万英镑。「围棋是一个终极目标：它是一个游戏的巅峰，有着最丰富的智力深度。它如此迷人与美丽，令我们感到兴奋不仅在于我们掌握了这个游戏，还在于我们还用漂亮的算法完成了它。」围棋游戏更像是艺术而非科学，他认为：「AlphaGo以十分人类的方式下围棋，因为它是以人类的方式进行学习，通过不停地游戏变得更加聪明，就像你我一样。」Hassabis也许看起来像个学生，但他更像一个骄傲的家长，AlphaGo是他职业生涯中所达到的最令人激动的成就。「比任何人所想象的都高了一个数量级，」他有些激动，「但对于我们来说，最好的在于这不是一个使用人工规则的专家系统。它借助于通用机器学习技术教会了自己如何掌握游戏。最终，我们想将这些技术用于重要的真实世界的问题，例如气候模型或者复杂的疾病分析，对吧？想想它下一步能够解决的问题真的非常令人激动！」

我与Hasssabis的首次相遇是在2014年夏天，那是DeepMind被收购的几个月后。自那以后，我观察过他在各种不同坏境中工作，过去八个月中我也为这篇文章在三个不同场合正式采访过他。那段时间我看着他从一位谷歌的人工智能天才成长为了一位引人注目的传播者，他找到了一种高效的向类似于我这样的非科学家描述他非常复杂的工作的方法——对此他有极富感染力的热情——以及为什么这很重要。谦逊和日具风度，他非常擅长打破DeepMind的方法；也就是说他们结合新老人工智能技术的方式——比如说，在围棋中结合使用传统分析走子的「树搜索」方法与现代近似于大脑神经元网络的「深度神经网络」——而且他们还和人工智能研究的不同领域有条理清晰的「联姻」。

在DeepQ中，他们将深度神经网络与所有动物都有的通过大脑多巴胺驱动奖励机制的「强化学习」结合了起来。而在AlphaGo中，他们更进一步又增加了另一种更深度水平的强化学习以处理长期计划。接下来，他们将整合例如记忆功能等等——直到理论上达成每一个智能的里程牌。Hassabis说：「我们在存在多少这些能力的路线图上有一个想法。将所有这些不同领域结合起来是其中关键，因为我们对那些可以在一个领域内学习又能将知识应用到新领域的算法很感兴趣。」

这听起来有一点他的个性。乍一看他的简历，可以发现他颇为业余的好奇心包含了从棋盘游戏到视频游戏到计算机编程到认知神经科学等一切，更别提人工智能了。事实上，他今日成就的取得是聚焦的结果：将自己在同代人少见的强大智力与他一生专研过的学科等各方面有意识地合成在一起。（简单点出他人生的亮点：8岁写出自己的电脑游戏；13岁收获国际象棋大师地位；17岁创造了第一款包含人工智能的视频游戏《主题公园》；20岁以两科优等成绩获得剑桥大学计算机科学学位；不久之后就成立了开创性的视频游戏公司Elixir；之后他在海马体和情景记忆上的开创性学术研究成为了他的「最后一块拼图」；2011年成立DeepMind。）他承认：「我非常容易感到无聊，而世界又如此有趣，有太多炫酷的事情可做。」（他还保持着五次获得智力奥林匹克运动会（Mind Sports Olympiad）精英赛Pentamind冠军的世界纪录，在该比赛中，挑战者需要在多个项目中互相挑战。）「如果我是一个体育运动员，我就会一直想成为一个十项全能选手。」

不过体育的荣耀再也没有希望了。Hassabis是一位忠实的利物浦球迷，喜欢观看各种体育赛事，四岁那年他开始下国际象棋，不到一年就开始了全国比赛，不久之后又开始角逐于国际赛场。现在可以很明显地推测出，他的一生都将与心智有关。

1976年，他出生于伦敦北部，他有一位希腊-塞浦路斯混血的父亲和一位新加坡-中国混血的母亲，他是三个兄弟姐妹中最大的一个。他的父母都是教师，曾经还拥有过一家玩具店。他的妹妹是一位作曲家和钢琴家；他的弟弟研究创意写作。他的家庭并没有太多的科技色彩。「显然我是家里另类的害群之马，」他开着玩笑，回忆起当他还是一个小男孩时将自己的下棋奖金花在了一台ZX Spectrum 48K计算机上，然后又买了Commodore Amiga，他立即拆开了它并搞清楚了怎么编程。「我父母有点技术恐惧。他们真的不喜欢计算机。他们是那种随性的人。我的妹妹和弟弟也都走了艺术路线。他们没人真正深入学习过数学或科学。」他耸耸肩表示抱歉，「所以，是的，这很怪异，我也不知道这一切都由何而来。」

他的公司在被谷歌收购时有50多人，现在的员工人数快到接近200，他们来自45个国家，占据了一整栋位于国王十字路的六层建筑。尽管有让他将公司搬往别处（可以推测肯定包括硅谷的山景城）的压力，但Hassabis决心他的公司应该保持在离他的根很近的地方。

「我是在北伦敦出生长大，」他提醒我，「我当然爱这座城市。这就是我要坚持留在这里的原因：我觉得没有任何理由说伦敦不能拥有一个世界级的人工智能研究所。而我也对我们现处的位置感到自豪。」这栋建筑所有房间都是以知识巨人：特斯拉、拉马努金、柏拉图、费曼、亚里士多德、玛丽·雪莱（他是她的粉丝？「当然，」他再次向我确认，「我读过好几遍《弗兰肯斯坦》。把这些东西铭记心中很重要。」）。

建筑的第一层是一间咖啡厅，装配着裸露的砖墙和装有客用椰子水的冰箱，还能见到在世界上大部分雄心勃勃的科技公司里都能看到的桌上足球机和沙包。楼上则对原来的建筑进行过装修，是一个现代的开放式结构，楼上办公室带有一个阳台，在上面能够欣赏到伦敦屋顶的壮丽景色。

DeepMinder会在星期五晚上聚会畅饮。一位员工热情洋溢地将这个活动描述为「用HIGH来结束一周」的方式。社交是生活中不可或缺的一部分：我被告知DeepMind有俱乐部、足球队、棋类游戏俱乐部。（「这一个相当有竞争力。」）一张可更换照片的挂图表明这里每一个人每一天都是办公桌轮用的。这是极其开放式的。我经过走道时看到这里的工程师——男性居多——打破了人们认为的这一类人在角落里书呆子式工作的刻板印象：这些家伙看起来健康、快乐又很酷。不得不说这里有一种智力的魅力在空气中回荡。这不奇怪。这个星球上最聪明的人正排着队想来这里工作；而到目前为止，这里的员工留存率是惊人的100%，尽管谷歌的最大竞争对手们对人工智能的关注正在加速，更不要说同样求贤如渴的世界各地的一流大学了。

「我们实在是很幸运，」Hassabis说，他将他的公司比作阿波罗计划与曼哈顿计划，因为该公司的雄心壮志以及其所招募的人员的水平都在以前所未有的速度攀升。「每年我们能从每个国家获得最好的科学家。例如，我们将拥有赢得波兰物理奥林匹克竞赛的人，获得今年法国年度最佳数学博士的人。我们得到的想法比我们获得的研究人员还多，但与此同时，还有更多优秀人才前来，我们已应接不暇。所以我们正处在一个非常幸运的位置。唯一的限制是在不破坏这种文化氛围的基础上我们能吸纳多少人。」

这种公司文化要比豆沙袋（用来踢的那种）、免费午餐、天台上的啤酒等表面上的公司活动要更加深入。Hassabis坚信，谷歌的收购完全没有让其偏离自己的研究路径，他说他花在DeepMind公司运作效率方面的时间一点也不比花在算法上的时间少，他认为他的公司「完美结合了最好的学术和最令人激动的创业，因此，公司充满着惊人的能量，催生了无数创造力与进步。」他屡次提到「创造力」，虽然他接受都是正规的科学训练，但他是「天生就富有创造力和敏锐直觉」的天才。他斩钉截铁地说：「从某种意义上来说，我不是一个标准的科学家。」DeepMind组织架构中至关重要的是被他称之为「粘合思维（glue minds）」的东西：充分掌握各个科学领域知识的学者们能「以别出心裁的方式快速找出有前途的跨学科交叉点。」应用正确的基准，这些粘合者能以小组的形式每几周就碰一次面，快速、灵活的将各种资源和工程师匹配到需要的地方。「因此，你将拥有一个令人难以置信的天才研究者，而且3-4名其他领域的研究者可以直接接过同一任务，基于自己的专业进行补充，这与学术界十分不同，」他描述道，「这样所带来的结果就是能很快地产生一些惊人的结果。」仅仅启动了18个月的AlphaGo项目就是这一理念的完美例证。

每天晚上，Hassabis都会乘坐北线巴士准时回家，与家人共进晚餐。他们居住在伦敦北部的海格特，距离他长大的地方不远。他的妻子是一名意大利分子生物学家，研究阿尔茨海默症。他们有两个儿子，一个7岁，一个9岁。Hassabis会和他们一起看书玩游戏，或者辅导他们的家庭作业。（「他们都很优秀，但他们在科学和创新方面更像是我的对立面。」）像每个父亲一样，他会哄他们睡觉。然后在11点左右，大多数人都上床睡觉时，Hassabis会开始他称之为的「第二天」。每天和美国团队的电话会一般会持续到凌晨1点，之后就进入他一直持续到凌晨3、4点的「纯粹思考时间」：他会考虑公司的研究工作和接下来的挑战，或者写一份算法设计文档。

他承认，实际上没有太多人工智能编程工作。「因为我现在的数学太生疏了。更多的是直觉式的思考。或者是关于公司战略的思考：如何将其规模化，如何管理，等等。或者是想一些当天在文章和新闻中看到的东西，思考我们的研究如何和那些东西结合起来。」

这让我想到了AlphaGo,，它就在令人很难想象的拥有庞大计算能力的谷歌云端不停的练习、练习、再练习，每一秒、每一天都在进步，因为它学习的唯一方法就是永不停歇。

「它会休息吗？」我问到。

「不，它不会休息。即便在圣诞节期间也没有。」

我有些犹豫：「它真的永远不需要休息吗？」

「可能它就喜欢这样（永不停歇）」，他回复道，眼睛闪闪发亮。

他说的没错。但Hassabis自己呢？「他绝对是个超人，」他的一名同事评价道。他休息吗？「很难，我从来没有将工作与生活对立起来，它们本来就是一体的。我喜欢阅读，看电影，听音乐，但这些东西都和我所做的工作有关。」（比如说，他是一个超级影迷，他提到了他的朋友Alex Garland，近期人工智能电影《机械姬》的导演；也提到他刚刚与美国电影制片人Brian Grazer一起开会，他认为Grazer是一个很酷的人，他们讨论的话题是什么？估计你已经猜到了——是人工智能。）「我的大脑已经完全被人工智能占据了。」那他的其他方面呢？孩子、朋友和正常生活？「毫无疑问，我会尽力去平衡生活，不然确实有些疯狂。」关于孩子们，最酷的地方是他们几乎成为能以相同方式占用你时间的唯一事情。

他和朋友们保持密切联系：他和DeepMind的另一位联合创始人Shane Legg相识于伦敦大学学院，他们都是PhD，对彼此比较了解，Mustafa Suleyman是他的发小。他还讲了一个在剑桥和同事Dave Silver相识的过程，在业余时间他会教Silver玩棋类游戏——包括特别古老的中国棋类。我注意到，David Silver是DeepMind AlphaGo团队的主要程序员，也是最近Nature论文的第一作者。「是的，Dave和我认识很久了，我们曾梦想在我们的有生之年做这件事（用人工智能解决围棋），所以（既然我们现在已经在做），当年19岁的我们应该很欣慰，我们已经走到了这一步。」

他主动补充到：「事实确实如此，我没有太多的正常生活。每一个醒着的时刻，我都在思考问题，或许在梦中也是如此。因为这太令人兴奋了，它如此重要，这就是我最令我充满热情的事情。」

从他眼里我看到了像孩子般天真无邪的对梦想的执着。「我感觉自己很幸运，我无法想象还有什么问题能比我研究的更加有趣，因此我会每天都在思考它们。每个时刻我都在做自己真正信仰的事情。不然我为什么要做这些呢？人生如此短暂。」

如果对人工智能的忧虑真的像史蒂夫·霍金、比尔·盖茨、埃隆·马斯克、Jaan Tallinn 和 Nick Bostrom 等伟大的科学人物所说的那样，那生命会变得更加短暂。从无节制的AGI武器到对技术奇点恐惧的担忧都会导致一场「智能爆炸（intelligence explosion）」，即机器将有能力进行无限循环的自我进化，它们将能超过人类大脑的智力，也超出我们的控制力。当超级智能灾难开始显现，历史就不再是一个可靠指标，我们将无法预见到应该何时从人工智能军备竞赛中全身而退，直到这一切开始发生。罗伯特·奥本海默（原子弹之父）有句名言：「当你在某项技术上尝到甜头时，你会继续前行，只有当你获得技术上的成功后才会去考虑应该如何对待它。」几十年之后，Bostrom也提到：「如果有一种方法可以保证高级人工智能永远不会伤害人类，那这种智能就已经被创造出来了。如果没有任何办法去做出这种保证，那它们也有可能被创造出来。」霍金近期总结到：「在创造人工智能方面取得的成功将会是人类历史上最重要的事情。不幸的是，这也可能是最后一件。」

「这么说吧，我希望不会。」Hassabis不动声色的说到。在他看来，公众对于通用人工智能的危言耸听阻碍了极具潜力的近期收益，并且本质上就错了，至少时间尺度上有问题。「我们距离那种能够达到人类级别的通用智能还得好几十年，」他提醒我，「我们才爬到梯子的第一级，只是在玩游戏。」他认可有一些「合理风险需要我们现在去思考」，但显然这些并不是科幻小说里的那些反乌托邦式的场景，在那些小说里，超级智能机器总是会无情的除掉它们的人类造物主。

另外，他坚信，当涉及减少通用人工智能的潜在危险时，DeepMind同样走在了前列。虽然不像那种类似政府领导的阿波罗或曼哈顿之类的项目需要接受官方审查，但这家公司的操作相当透明。它更倾向于发布它的代码，而和谷歌的此次交易的协议中还附带一个条款：禁止将该技术应用于军事或情报用途。

Hassabis和他的同事们在推动2015波多黎各人工智能大会召开方面发挥了重要作用，并在呼吁将此项技术应用于「善举」并在「避免潜在危害」的公开信上公开签字。他们最近联合组织了另一场在纽约的同类会议，而他们公司内部的道德董事会和咨询委员会目前也召集完毕（尽管是秘密进行的）。Murray Shanahan表示：「Hassabis完全了解人工智能的安全系数，他当然不是天真无知，更不是把头埋进沙子里的鸵鸟。」

「DeepMind在鼓励讨论这些事情方面是行业的领先者，」Bostrom对此表示了赞同，「在参与一些需要应对长期挑战的研究方面亦是如此。」

我让Hassabis列出他认为的最主要的长期挑战有哪些。「由于这些系统变得越来越复杂，我们需要思考如何充分利用它们，以及它们又能将什么东西进行优化，如何进行优化，」他回复道：「技术本身是中立的，但它是一个学习系统，所以不可避免的，它们会承担一些价值体系的印记和设计者的文化，所以我们需要非常小心翼翼地思考这些价值观。」

关于超级智能的问题，他说到：「我们需要确保目标精确详细，并且没有什么模糊的地方，不会随着时间的流逝而发生变化。但在所有的系统中，最顶层目标仍然由它的设计者确定。这可能需要系统自己想办法达成目标，但它不能自行创造目标。」

他的语气让人放心。「看吧，这些是有趣又有难度的挑战。因为这些全新的强大技术需要符合伦理和有责任感地使用，而这就是我们积极呼吁讨论和研究这一事宜的原因，所以当那个时间窗口到来时，我们能够已经做好了准备。」

这到底是个怎样的时刻？当机器变成超级智能？还是机器超越了人类？他笑了，「不不不，我是说，在那之前。」（我知道他在开玩笑，尽管他的同事Shane Legg曾经在2011年明确表示：「我认为人类灭绝可能会发生，而技术可能会是罪魁祸首之一。」）Hassabis声明：「我的意思是，当这些系统更加强大，而不仅仅是玩游戏，我们会将它们应用在更加具体、实际和重要的事情上，比如说医疗健康领域。然后，我们需要确保我们知道它们的能力能够发展到什么地步。」他冲我咧嘴一笑，「这将阻止机器掌管世界这一场景的发生。」

Hassabis很爱笑。他非常友好，又极具说服力。他说的每件事都似乎都很有道理，而且并不自负，但谁知道呢：也许通用人工智能会在我们的掌控之下。但很多人持怀疑态度。「显然，如果出现了一种在各方面都超过人类的数字智能，那『助理』这个词就不再是个正确的描述了。」埃隆·马斯克争辩道，他最近将人工智能技术方面的进步描绘成人类在「召唤恶魔」。这位SpaceX创始人、特斯拉和PayPal联合创始人也是DeepMind的早期投资者之一，但并非为了赚钱。「我不在乎为了投资而投资，」他告诉我，「我把钱投给DeepMind的唯一原因就是想要更加了解人工智能的进展和危害。如果我们不认真对待人工智能，一旦发生了什么不好的事情，银行存款也会变得毫无意义。」

「埃隆是最聪明的人之一，和他交谈很令人享受，」Hassabis不偏不倚的回应说，「我真的认为像他这样的人喜欢人工智能是件非常酷的事，因为这足以说明这是件大事。」他表现的成熟老练，但其他领域的科学家对人工智能公开的随意评论显然激怒了他：毕竟你从来不会听到他对粒子物理大放厥词。

「通常，我发现那些没有真正研究人工智能的人们并不完全理解这些。他们通常没有跟很多人工智能专家深入交谈，他们的思想实验就随着他们的想法跑偏了，因为他们都是基于那些我认为并不正确的设想。」他再一次提到，他成立的内部伦理委员会和咨询董事会——由不同科学和哲学学科方面的领袖组成——将会管控通用人工智能技术的未来使用。他坚决维护他现阶段保持继续探索的决定。「之前从未有人走到过这一步，所以在接受大众监督之前，我们必须筛选做一些探索性工作。」他表示，这一初始阶段是关于「让所有人都跟上进度，然后在下一阶段我们就能够讨论真正的算法和应用了。对很多涉及其中的人来说，这并不是他们的核心区域。我们需要他们的专业知识，但他们需要更好的了解究竟发生了什么。」

斯蒂芬·霍金被当作一个「跟上进度」的鼓舞人心的例子被提及，他们最近在剑桥进行了私人谈话。「显然能够跟他见面就已经是非常不可思议的荣誉了，」他表示，并拿出他的手机给我看他的自拍。「我们只安排了一个小时，但他有那么多问题以致于我们最后交流了四个小时。这导致他错过了午餐，所以他的看护对我不太高兴。」

Hassabis指出，在那次会面之后，霍金就不在媒体面前提及「任何人工智能煽动性言论」了。最惊奇的是，在他上月的BBC Reith讲座中，他推断的人类威胁清单中并没有包括人工智能。「可能真的会有些用吧，听到更多实用的东西，更多我们可能创造出的真正系统，以及我们对这些系统的检查和控制，」Hassabis表示。「一旦你理解了这项工程，这一切看起来就更容易理解了，也更加合理。」

当然，在我身上还看不到任何希望，但他真的相信霍金变了吗？「我认为最终会的，他会非常放心的。他有着非常风趣的干幽默，就在我离开前，我问他，『那么你认为如何？』他打出了『我祝你好运。』之后，调皮地冲我眨眨眼，又补充道，『但不要太好运。』」Demise Hassabis向我露出会心一笑。「我认为，『我可以认为我赢了。』」

龙为科技

龙为科技|“龙为科技”荣获“美育圆梦-2017中国十佳爱心助梦企业”

龙为科技|“龙为科技”探秘“世界500强京东总部”

龙为科技|龙为科技受邀参加“中国数学大师-吴文俊先生追思会”

龙为科技|龙为科技祝“迈得诺”六周年生日快乐

全球化：

GMIC 2017全球峰会（北京站）全览：AI机器人篇（当代伟大的科学家“霍金”演讲）

科学家们是怎样制造智能机器人的？（视频）

全球各国：

医疗健康养老：

太空机器人：从太空看地球，震撼到美

酒店机器人：酒店机器人

中国：

芯片：

智能科技：

智能制造

智能先锋（海尔M2C-红领C2M-韩都衣舍的云平台）

华为：

新松：中国最大的机器人上市公司“新松机器人”

富士康：台湾富士康科技的机器人计划（内含郭台铭“真情告白“）

阿里巴巴：

中兴：解密《ZTE 中兴：未来，不等待》（人工智能机器人之娱乐机器人）

联想： 解密《lenovo 联想》（人工智能机器人之仿人机器人）

万科：“谁的万科” 再起波澜！（人工智能机器人之探险机器人）

海尔：海尔：智能工厂、Ubot智能管家机器人、商用服务机器人

格力：“创造改变未来”格力智能装备、格力机器人全球首发

美的：“美的”迎来智能时代：机器人、智能厨房、智能家居、智能工厂

百度：

腾讯：

京东：

小米：2017中国两会代表-小米雷军议案：把人工智能列入国家战略、新零售、“一带一路”战略

科大讯飞

乐视：【乐视-FF91】新物种 重构未来 开启人工智能互联网生态汽车元年（完整版）

滴滴：滴滴出行：机器学习和人工智能让滴滴获得更高效率 

搜狗：搜狗汪仔机器人-搜狗CEO王小川：智能科技揭示的美丽未来

携程：携程 创始人 梁建章：关于机器人、失业和创新、人口和旅游

大疆：从无人机到机器人，大疆创新（Robomasters 机器人比赛）

猎豹：猎豹的新使命：成为一家有伟大技术理想的人工智能公司

创新工场：

李开复：人工智能会接管世界 但不会奴役人类

平安：平安科技CEO陈立明：用人工智能普及金融科技

思必驰：思必驰：真正把底层的研究和产业问题深度绑定

达闼科技：科幻与人生—从星际迷航到机器人

第四范式：艾问·人工智能：什么样的人会借人工智能改变世界？

美国：

GE：通用电气（GE）呈现｜［机器人篇］工业互联网（完整版视频）

微软：

苹果：

谷歌：

IBM：

亚马逊：

Facebook：

特斯拉：解密特斯拉工厂，机器人无处不在（埃隆马斯克TED大会视频）

高通：美国高通的下一个战略：机器人领域(含视频）

英特尔：

Uber：Uber的发展历史：”人工智能，机器人技术“ 功不可没

麻省理工：

斯坦福：斯坦福大学：人工智能机器人的百年计划（Al100)

卡内基梅隆：

伯克利：世界科技圣地：加州大学伯克利分校

日本：

本田：本田的“阿西莫”超人形智能机器人（完整版）

丰田：丰田的三款陪伴机器人 挑战本田的“阿西莫“机器人

软银：

松下：

索尼：SONY 索尼的机器人计划（内含SONY科幻短片「The Last One」）

夏普：夏普的创新之作：机器人形手机“RoBoHoN” 

安川：百年安川，匠心独运（含视频）

日本：“机器人界的乔布斯”高桥智隆：走进机器人的世界

德国：

西门子：德国西门子工业4.0及数字化工厂（视频）

博世：百年博世，智能时代；百年博世，工业 4.0

库卡：库卡机器人VS乒乓球世界冠军波尔

德国汉诺威：

韩国：

三星：三星人工智能在路上

          三星智能机器人战略（完整版视频）

现代：现代：可穿戴外骨骼机器人、无人驾驶

LG：LG电子：人工智能机器人+家电产品

SK：SK电讯：进入了人工智能(AI)市场，推出了全球首个韩语数字服务助理平台“NUGU”

以色列：

医疗健康、护理康复、外骨骼机器人

新加坡：

数字经济

2017中国“互联网+”数字经济峰会（2）