Quantcast

袁伟时:中国的奴性和戾气从哪里来?

“芯片大学”虚晃一枪,人才断层问题不能跑步解决

两大中国首富双双被重挫-释放信号强烈

民间帝王赖小民和性感女星舒淇与许晴

女性高潮时为什么会“喷水”?

Facebook Twitter

分享到微信朋友圈

点击图标下载本文截图到手机
即可分享到朋友圈。如何使用?

自由微信安卓APP发布,立即下载!

【科技·文化】未来人工智能到底会怎样?作为政治问题的人工智能

2017-07-10 尤瓦尔·赫拉利 爱尚爱心亭 爱尚爱心亭


尤瓦尔·赫拉利


尤瓦尔·赫拉利?

你会问何许人也?大爱先问您看过《人类简史》没?

2014年,以色列历史学家尤瓦尔·赫拉利的《人类简史》横空出世,以全新的视角重构了人类的进化史,引发全球热议,成为现象级畅销书。2016年,他又推出了最新作品《未来简史》,勾勒了人类的未来图景,被读者评论为一部“细思极恐”的烧脑力作。

今天,信息技术、能源技术等引发的世界科技革命浪潮蓬勃发展,也催生了新一轮产业革命。每个人都切身感受到,自己身处在一个大变革的时代转折点。智能制造、虚拟现实、共享经济,商业模式、经济生活日新月异。基因改写、神经控制、寿命延长,人类正把科幻小说中的场景渐次变为现实。

未来究竟是什么样子?人工智能和基因技术,对未来将会带来怎样的改变?人类命运将向何处去?历史将被怎样改写?《人类简史》和《未来简史》作者尤瓦尔·赫拉利教授来到中国,与几位来自各领域的专家来一同探讨关于未来的话题——人工智能AI.

在尤瓦尔·赫拉利看来,21世纪的人类将逐渐失去在上万年的演变过程当中获得的力量,这些力量将逐步从人类让渡给人工智能。但人工智能和人类并不是战争、对立的关系,我们应该追求的是这两者之间的融合、发展演进。人工智能的技术毫无疑问会改变我们的世界,但是我们未来的社会究竟怎么样,并不完全是由技术来决定的,人工智能也不是一个单纯的技术问题,我们应当注意人工智能AI对社会经济政治产生的深远影响。在他看来,需要处理的不是人与机器的关系,而是人与人的关系,人工智能很可能会带来人类的分裂——一部分成功实现和人工智能融合的人会获得新的权力,但是大多数人会被甩在后面。“我担心的是人类将来会分化成这样两个阶级,这样的话会带来巨大的不平等——不同的国家之间,同一个国家不同的阶层之间”,“特别是对于经济发展严重依赖于廉价劳动力的发展中国家而言,我们现在担心的是像川普这样的人当了总统,还有脱欧,离协调越来越远了,人工智能需要全球合作,而我们没有办法全球合作”。

尤瓦尔·赫拉利

以下为演讲凤凰文化实录:

各位尊敬的来宾,大家上午好。这是我唯一会说的一句中文,其他都是讲英文了。我感觉自己像一个摇滚明星。中国可能是唯一一个能够让科学家变成摇滚明星的地方,这样一个舞台这样一个场景,我是一个科学家不是摇滚明星。

今天我要跟大家介绍的可能是我们这个时代最著名最重要的科学发现或者是整个21世纪最重要的一个人类历史上的演变,我们称之为人工智能。人工智能不仅仅是21世纪最重要的科学进化,也不仅仅是我们人类历史上最重要的科学进化,甚至是整个生命创始以来最重要的变化。历史发展到今天,方方面面都有了巨大变化,但是最重要的原则,根本的规则没有发生变化,过去的40亿年当中都是保持一致的,过去40亿年当中所有生命都是按照优胜劣汰的原则进行演变,所有的生命完全按照有有机化学的规则进行了演化,因为我们的生命是有机化合物组成,不管你是巨大的恐龙还是一个阿米巴虫还是一个土豆还是一个人都是按照物竞天择的规则都是有机化合物组成的,所以我们完全遵守有机化学规律。

这样一个40亿年的规则将会随着人工智能出现而发生根本变化,人工智能将替代物竞天择,自然选择的结果就终止。这个过程当中,我们的生命将根据计算机智能设计,我们生命将脱离原先有机化合物的限制,脱离原先有机化学的限制,突破原先这样一个限制而进入一个无机的世界。在我们的有生之年,我们有可能看到,有机生命会逐步被无机生命所替代。我们会逐步看到有机化学规律和无机智慧性的生命形式并存。原先我们是碳基的,未来生命形式当中硅基会成为主要的生命形式,这是我们有生命以来的40亿年当中出现的一个第一次的这种重大变局,在过去的40亿年当中,40亿年大家可以想象一下,所有生命根据已知情况都是局限在地球这样一个行星上面,没有一个生命,阿米巴虫或者任何一种生命形式有能力突破我们这样一个行星,这样一个地球去其他的星系进行殖民,这是因为自然选择规律让所有有机物有机体局限在非常独特的就是我们这个地球的环境当中,一个非常独特的地球温度,气候,非常独特的太阳的照射,非常独特的重力这样一个环境当中。

所有我们的有机生命都是为了适应这样一个环境而存在和繁衍的。我们不能够在其他的空间环境当中,其他的星球,星系当中去生存,因为太难了,几乎不可能。因为我们的条件,我们的有机生命的这个条件,比如在火星月球等等这些上面环境太不一样了。一旦我们从原先有机的生命形态转变成为无机的生命形态比如机器人,人工智能计算机等等,这些那么就没有限制了。机器人在火星上面也可以生存,人类不可以,但是所有这些无机的生命形式可以在火星上面生存,我们在科幻小说或者电影当中看到的这些场景,现在对于人类来说仍然是非常困难的,因为我们这样一个有机生命体在地球以外的外太空是很难生存的,但是计算机、机器人、人工智能相对来说是比较容易能够在地球以外的其他星球和星系当中进行生存。

所以我们有生命以来40亿年,我们有可能突破地球的限制而可以进入到其他星系,不是人类而是人工智能可以做到这一点。另外一个重大突破性的演变,也是在我们有生之年可以看到的,事实上大家已经从某种程度上经历了这样一种变革,什么样的变革呢?我们人类上万年以来在演变过程当中获得了越来越多的力量,在21世纪的时候人类将会失去这些力量。这些力量将逐步从我们这个物种让渡给人工智能,我们人类的权威在做决策的过程当中,比如说世界上在发生什么,甚至我们自己生命在发生什么,这些权力,我们掌控的力量,不管重要的还是不重要的,将会逐步拱手让给计算机或者人工智能的这些算法。

举一个很简单的例子,很简单的决定,比如你读哪一本书,下一个月看什么书,这是我们生活当中很简单的决定,我们可以有很多的选择,大家是怎么来选下一本书你读什么?以前很多人一般会依赖你自己的感觉、喜好、口味,或者依赖你朋友的推荐,家人的推荐,他知道你的感觉,知道你的品味,知道你的喜好会给你推荐一本书,所以选择一本什么书来阅读目前取决于我们自己的感觉、喜好、口味,但是进入21世纪以后,今天2017年,我们逐步的把阅读什么书,购买什么书这样的权力让渡给了电脑、计算机、算法、让渡给了亚马逊网站。

所以当我们进入到亚马逊未来的书店当中去,是有一个算法告诉你:我知道你,我一直在跟踪你,我一直在收集你的数据,你喜欢什么不喜欢什么我都知道。亚马逊的算法会根据它对你的了解,以及它对于数以百万亿上千万计读者的了解向你推荐这本书或者那本书,你肯定会喜欢这本书。但这个仍然是处于初级状态,这只是人工智能迈出的一小步,亚马逊网站对你的算法仍然非常有限,进入到下一个阶段,今天已经发生,我们看到这样的算法越来越了解你。今天越来越多的人看书不是看纸版书还是电子书,在手机上面看书或者一些电子阅读器上面看书。当你在这个设备上读这些书的时候,这个设备也在读你。

所以有史以来第一次不仅是人类在阅读一本书,你在读的那本书同时也在读你。当你在读书的时候,你的智能电话,你的智能平板,也在读你,跟踪你,监测你,搜集你的数据,这个设备可以了解到哪一页你会很快的翻过去,哪一页你是慢慢读的。这个给了他一些指标,哪些对你来说是无趣的章节,哪些是你喜欢的章节,他也知道哪一页你不读了。这本书我必须要看,我买了这本书,读到一定时候不喜欢了,但是我告诉每一个人这本书非常好,非常了不起,因为我不想丢脸,因为别人都说这本书很好,别人会被你骗但是计算机这个算法不会被你骗,他知道你读到第五页不读了,或者第42页的时候不喜欢了,这也是非常初步的。

下一步它的设备可以连接面部识别的一个软件,今天面部识别的算法很初级,但是慢慢地,它会学会通过看你脸部的表情去判断。这就跟我们看别人一样,我知道你的表情背后掩盖着什么样的感情,什么样的感觉,看你非常小的面部表情,肌肉的变化就会知道你是在笑还是在生气,或者只是无聊了。

这是人来认知情绪的方式,今天计算机也在学会对于情绪的识别能力,甚至比人类做得更好。他们能够找到面部活动的规律,并且用这种规律来分析和评判我目前的情绪状态是怎样,我们把这样的一个软件和kindle这样的电子阅读器结合在一起,kindle能够去判断你在读的书对你产生的情绪影响,你在看书的时候笑了,这时候他知道你笑了;你看到某一章生气了,他知道你生气了。我作为一个作者,经常努力想象我这本书这一章那一节他们会笑吗,他们会不会理解到我埋在这之中的笑点,能不能看出我写这段文字是表达讽刺,我不知道,但是亚马逊会知道。是的,87.3%的读者在读到这一段的时候,这个笑话没有笑说明这不是一个 35 39021 35 14005 0 0 7075 0 0:00:05 0:00:01 0:00:04 7073œ‰æ•ˆçš„笑话,即使这样还不是代表着最后一步。最后一步把设备和生物识别传感器结合在这些,这些生物识别传感器是植入在体内,这不是科幻小说,已经实实在在用了。生物特征传感器能够持续不断的监控我身体各种生物指征。我现在给大家做讲演,我的血压心率是多少,血糖水平或者是我的激素水平是多少。但是你不知道,计算机通过刚才讲的这样的技术能够知道我每一刻血压的变化,根据这样的数据,我们大家想象一下你现在读一本非常长的书,比方说托尔斯泰的《战争与和平》,当你读完的时候,实际大部分情节都忘了,但是亚马逊、腾讯或者百度任何一家公司,它的电子阅读器通过生物识别传感器把你读这本书的整个状况记下来。

在我读完《战争与和平》之后,这个设备就知道我是一个怎样的人以及性格特点是什么。根据这样的一种知识和了解,设备不光能够向我去推荐书籍,而且也能够围绕着我生活当中更加重要的决策做出建议,比方我应该学什么,该生活在哪,应该在哪儿上班,甚至和谁结婚。人生当中最重要的决定之一可能就是你的一生要和谁度过——你伴侣的选择,大家知道在选择伴侣上很多人犯过糟糕的错误,我们主要是有赖于自己的感觉以及亲友家长的建议。现在有一个男朋友女朋友,该结婚还是分手,二三十年以后你可能问亚马逊百度腾讯这样的问题。今天你是靠自己的感觉和亲友的意见。但到时,亚马逊等对于我个人,对于和我相处的人已经如此了解,问他们的建议,他们会说好,你迄今为止所有的邮件我都知道,所有微信我都知道,手机通话我都在追踪,看书看电影时我在监控你血压心率的变化,你每次约会的时候,和这位男朋友女朋友提问题的这个人我也是在监控你水平的变化,我对于你这个人所有信息的了解以及男朋友女朋友的了解,以及基于我对几百万人的成功或者是不成功的伴侣关系的理解,这样我就可以告诉你,你现在和你的男朋友或者女朋友结婚90%的概率会是成功的,因为在你一生当中找不到更好的伴侣了。因为我如此的了解你,我可能知道你并不喜欢我提的这个建议,你心里想我有能力找到一个更好的伴侣,更好看更漂亮的伴侣,我知道你这样想的错误来源所在,你对外表太看重了,我知道你犯错的来源。你现在在选择的时候,你考虑的因素或者是你考量的因素,还是五万年前我们的远祖祖先在非洲的大草原上择偶的标准,那个时候大家看重外表,现在机器会告诉你根据我的统计数据,即使外表对于关系的成功与否是有重要性的,但是这个重要性是比较小的,可能只占整体权重的10%,在一个成功的关系当中只有10%是取决于外表、美貌。

机器会告诉你我已经看到了这样的现实,我仍然告诉你从长远来看,你和现在这个人在一起会是最幸福的,你应该和他结婚。这样的一种设想当中,决策的权威、权力已经转移了,从人上移交给了算法。我们在这需要理解的是,做出决定的能力就像一组肌肉一样,这样的肌肉你不用的话就会退化,你对计算机信任越多,依靠人工智能来做决定越多,你就会失去自己做决定的能力。

给大家举一个简单的例子。就是找路,在北京找一条路,要去一个地方,比方从这去火车站,过去我们怎么认路?基于自己的本能知识经验,到一个十字路口我是该左转还是右转,你会有赖于自己的经验。今天我们越来越多的有赖于智能手机,各种各样的GPS,地图的应用,你的本能告诉你应该右转,但是智能手机告诉你左转,你越来越多的相信智能手机而不是直觉,经过一段时间之后你的认路找路的能力就丧失了,即使你还想这样做。在北京这样的空间找路认路能力今天我们靠机器,二十年以后我们在自己的人生当中碰到了这样的十字路口要做决策的时候,很多人会用智能手机,人工智能来做决定,他们会告诉你该怎么做。

随着人工智能变得越来越好,有可能人工智能会把人从就业市场当中挤出去,对于整个社会的经济和政治都产生革命性的影响,十年前如果大家想一下,计算机比人更好驾车的话,大家觉得这是一部科幻小说。但是今天所有专家都达成了共识,可能再过一两年时间,计算机就能够比人类驾驶员的平均水平要好得多,那么届时数以百万计的出租车、卡车、公交车司机会失业,让位于自动驾驶汽车。它不仅开起来好,安全性要高得多,今天的世界上汽车事故造成的死亡人数比战争暴力还要多出来一倍,战争,恐怖主义犯罪,每年造成60-70万人死亡,汽车每年造成130万人死亡。大部分汽车事故都是由于人为造成的,酒驾,开车的时候打电话,或者睡着了,或者发信息,今天交通事故当中人是主要的因素,有了人工智能就不会有这样的问题。自动驾驶的汽车永远不会喝酒,自动驾驶的汽车也不会开车的时候,行驶的时候睡着了,也不可能在开车的时候接打电话,那这样的自动驾驶汽车就能替代人员驾驶员的作用。

人工智能能做一些关于伦理道德的决定。比方自动驾驶汽车开的过程当中突然前方有两个孩子,在踢球追球,这个时候负责自动驾驶的计算机通过算法可以算出来避免撞死这两个孩子的办法是猛的转向另一条车道,前方有卡车迎来而来,但是这样后面打瞌睡的乘客会死亡。有一个解决方案可能就是让客户来决定,车厂来决定无论奔驰还是丰田,比方说丰田让客户来决定自己要选用哪一款车,有一款车碰到这样的决定会决定让你死,那么另外一款车会决定刹车但是仍然会撞死前面两个孩子,你会买哪一款车选哪一种算法?世界上最优秀哲学家先把这样的程序做好,我们在理论上考虑的所有东西,有各种各样的哲学伦理上的理论,但是这些理论对于遇到危机的时候作用甚少。大家可以说有道德的选择是牺牲自己的生命救前方的孩子,但是一旦你真正上路了几分之一秒必须做出这个决定你就会忘记刚才的讨论,会根据你的本能情绪来采取行动。

那些理论哲学上的行为之间和人类实际行为是有巨大差距的,但是有了计算机人工智能我们就能解决这个问题,能够把世界上最优秀的哲学家集合在一起,让他们坐在一个房间,给他们一年时间讨论道德上的难题,不管最终拿出了什么方案就把这个方案写到自动驾驶汽车的程序当中。

谈到伦理道德决策,人工智能也有可能是平均意义上人比他们要更好,因为这就是意味着这样的自动驾驶汽车,假设每一辆车里面驾驶员都是孔子,这样对于人类驾驶员来说他们被人工智能替代之后,当然一方面会带来很多优势更加安全更加便宜,与此同时另一方面会使决策权从人民大众手中转向人数很少的一批精英的手中,过去这样的权力和福利是由数以百万计出租车司机,公交司机,卡车司机来分享,现在不是,现在都交给了人工智能,他们就掌握了世界上所有的出租车、卡车、公交车。

不光是公交车司机,甚至是医生这个工作都会发生变化,在人工智能当中这样的事情已经开始发生。人工智能在疾病诊断方面能够做得更好,提出治疗方案比平均水平的医生更好,普通的医生他的知识和能力是有限的,不可能每天都在更新知识,不可能一个人知道全世界所有的疾病药物和研发结果,对于一个医生来说他拥有的数据是有限的,但是对于人工智能来说这都是无可限量的,可以收集信息分析信息,熟知全世界所有疾病,能够24小时不间断地跟踪一个患者。今天我的私人医生在以色列每年给我做一次体检他告诉我的健康状况如何,有了人工智能之后相当于你身边就有一个医生,随时的来追踪你的血压,即使我现在在中国我私人医生在以色列但是我的人工智能应用会像一个医生一样随时了解我的健康状况,每0.5秒了解一下我血液的状态,这不再是每年做一次体检,意味着对于癌症这样的疾病不是等到癌细胞扩散已经疼的时候再去医院检查,而是在癌症非常早的阶段刚刚出现病灶癌细胞的时候就能够被发现,我没有不好的感觉,但是人工智能已经发现了。

所以他会发现癌症早期的症状提出诊疗方案,一个好医生不仅仅是了解你病情,还需要一些情感方面的智能了解病人是不是害怕了,或者生气了,愤怒了等等,所以有人认为人工智能做不到,事实上人工智能他比人类医生还能够抚慰病人心灵。人类医生怎么判断呢,可能看你的面部表情,某一个声音语调的变化,但是人工智能可以分析你面部的表情更加精确,可以了解你说话语调变化更加精准,更加精准的比人类医生了解病人情绪的变化,监控某一个病人内部身体情绪的变化,很多人的医生做不到,他比病人自己更了解我现在情绪上经历哪些变化,他非常愤怒,人家说你生气了,他说我一点都不生气,有时候病人自己都不知道自己是什么状态,但是人工智能可以,因为他在不断监控你的心跳血压状况等等,当然很多问题需要去解决,很多技术难题没有被最终突破,创造出这样一个人工智能医生。

我们技术上只要突破一次就可以解决一切的问题,人工医生怎么培训?可能八年大学硕博连读,临床实习之后才会培训出一个合格的医生来,十年之后,我们花了这么多资源钱等等只不过培养出了一名人类医生,这时候培养第二名又需要花十年时间。但人工智能只要技术上实现一次突破,你拿到的不是一个机器医生而是无穷多的人工智能医生,他们可以复制出来,这个比培训人类医生要效率高得多。虽然一开始要花数百万亿美元去研发,但是一旦研发出来就可以无穷复制。

随着技术发展我们可以用机器替代出租车、司机、医生其他职业,人工智能逐步都可以替代,这时候出现一个非常大的人类社会学问题。正如第一次工业革命使得城市无产阶级出现,人工智能的出现会出现一个新的阶层,就是无用阶层,数以亿计的人将找不到工作,他没有办法和计算机人工智能竞争,对这些人来说他已经丧失了经济的价值,没有经济价值也就没有政治权力,这个会产生巨大的社会政治经济方面的问题。

当然大家说会出现一些新的职业,但你没有办法确定会出现哪些新的职业替代那些正在消失或者被机器抢走的职业。我们可以说人会自己不断的去学习,不再需要卡车司机出租车司机,会有新的职业设计未来的事业,设计3D计算机游戏,你想想一下一个50岁的出租车司机失业之后他有多大能力去培养自己,对于50岁的出租车司机来说他要重新培养自己的能力,太晚了,我们会看到这样非常危险的革命会严重的改变,从根本上改变我们的教育体系,我们要想一下今天的孩子,你教孩子什么?今天在学校里面我们应该教孩子什么,大学里面应该教孩子什么,让他们能够在二三十年之后能够适应当时的就业市场,事实上我们没有人能够描述三十年后,二十年后的就业市场,换句话说我们现在的教育系统没有办法了解今天应该教我们孩子什么,今天我们孩子在学校里面学到的所有知识二三十年后完全无用,我们不知道现在应该教他们什么,才能够让他们在二三十年后找到工作。

所以即使我们会产生新的工作,二三十年后可能产生新的工作,但是今天孩子到那天是不具备那些新工作的就业能力的。那么这个时候出现了数百万数千万甚至上亿失业人口,他们丧失了经济价值,这个基础上会产生进一步威胁。人类未来的精英阶层是否还会有这样一个动力去照顾那些弱势群体?现在,世界各地的政府还会投资于那些弱势群体,为什么?因为政府精英群体需要这些弱势群体,即使是独裁的像德国的纳粹希特勒,他也要投资于这些弱势群体,他要变大,需要有强大的军队,需要普普通通的数以百万计的德国人去给他当兵,成为工厂的工人才能支撑他打这样的战争,所以投资大量的资金用于教育和医疗。

但是未来如果人工智能替代人类,他可以替人去打仗去做工,这样国家精英阶层就没有动力去投资医疗教育,帮助弱势群体。人类社会会分成两大阶层,一个是非常少的精英阶层,就像上帝一样,他们在创造大量的人工智能,绝大部分人将变成没有任何经济价值任何无用的阶层。这是21世纪最大的风险。

最后一点在我结束演讲之前这也是非常重要的一点,有很多关于人工智能的讨论,但是也有很多关于人工智能究竟意味着什么的迷惑和疑问。智能和意识之间究竟有什么区别,很多人迷惑?智能是解决问题的能力,比如我们诊断一个疾病,或者找到某一个疾病的治疗方法这个是智能,但是人类的意识是感受某一种外界的能力,你的情绪你的感情你的痛苦、愉悦、爱,等等,人类和其他的哺乳动物,大猩猩猴子等,他们的意识和感情是合二为一,利用这样的感情和意识加上智能一起去解决问题,智能感情情感和意识是合二为一的。

但是计算机不一样,随着水平越来越高,他们也能产生意识,很多科学的科幻小说或者其他的科幻电影当中我们经常看到人工智能逐步逐步产生了意识,机器人计算机变得非常智能,同时获得了意识和情感,机器人变得非常愤怒。他想杀掉所有的人类,我们在这些科幻小说电影中都看到过,他不是科学只是科幻。科学告诉我们智能和意识是完全不一样的两个东西,到目前为止,我们计算机或者人工智能发展到今天,智能水平在不断提高,但是人工智能的意识还是零,换句话说我们现在没有任何指标证明或者任何迹象表明计算机和人工智能在未来能获得这种意识,我们一会儿会有讨论的时间,我们目前还没有任何的迹象表明这个计算机能够获得意识,计算机只是以一种完全不同的方式在工作,和人类其他的哺乳完全不一样,这是我们面临的风险或者最大的风险,计算机会比我们智能得多,比人类水平高好多好多,他会控制这个世界,开始向宇宙其他星系去扩张,但是他们仍然没有意识,我们会有一个充满智能机器的宇宙而丧失任何意识和情感,大家可以去想象生命过去的演变在逐步的向更高的智能去发展,人类或者其他哺乳动物,在演变过程当中是非常慢的。上亿年的生命通过我们的意识不断摸索,慢慢演变到今天的智能状况,速度是非常慢的,演变需要数百万年的时间。突然有一个计算机突然杀出来,他们用完全不同的路径、方式,完全不同的发展模式,超级的智能在赶超有机的生命体,他们智能的进化和演变速度比我们快得多,他们的发展演变比我们快得多,他们会控制整个世界甚至宇宙但是是没有意识的。

最后想做一个总结,我讲的东西不是一个预言,没有人会知道未来是什么样,一切还悬而未决,同样一个技术你可以创造出完全不同的社会和世界,我们在21世纪曾经看到过这一幕,我们的技术、汽车、广播、电视、计算机,可以利用相同的技术创造出社会主义的国家,资本主义的国家,法西斯国家都是利用同样的技术,同样,人工智能的技术毫无疑问会改变我们的世界,但是我们未来的社会究竟怎么样,有很多选择,而不是完全由技术来决定的,一切都悬而未决,如果大家不喜欢我刚才描述的这个世界,大家仍然可以用自己的行动去改变决定未来世界的形态,去消除风险发挥技术好的那一面。

最后我想讲的就是当你作为一个个人,一家企业,政府部门,或者作为一个精英阶层,我们在做人工智能的时候,做各种各样决定的时候,一定要注意人工智能不是一个技术问题,不仅仅是单纯的技术问题,同时也要注意到人工智能以及其他技术的发展将会对社会经济政治产生深远的影响,我们一定注重人工智能它的技术层面的问题,还要严密的去关注人工智能的发展对社会可能产生的影响,所以我们在投资与技术发展的时候还要投资于社会影响的研究,谢谢。

现场

圆桌论坛环节

主持人:我们非常荣幸地邀请尤瓦尔·赫拉利,苏萌,以及北京大学心理与认知科学学院教授魏坤琳,Dr.魏,旷视(face++)创始人兼CEO印奇,这四位嘉宾参加讨论!

可以说当下的人工智能已经到了前所未有的热度,不管是人才的涌入还是资本的关注,大家来到现场无非是承认人工智能未来已来,我们听到两种不同观点,人工智能可以战胜人类吗?尤瓦尔先生是非常自信的,还有一位是洪小文博士他认为不,带着这样的思考我们将进行第一个问题,人工智能会战胜人类吗?第二个问题人工智能的来临会导致世界的剧烈分化吗?第三个问题如果未来已来我们究竟是持悲观的态度还是乐观的态度?首先亮出第一个问题,人工智能能否战胜人类呢?

尤瓦尔·赫拉利:首先要知道什么叫人工智能?能否战胜人类,这句话本身是什么意思?并不是说在科幻小说或者电影当中机器人叛乱要杀死所有人类,这个问题指的是越来越多的权力和决策,现在是掌控在人类手中,将来会越来越多地交给计算机和人工智能,这是非常有可能发生的,因为人在做决策的时候也要收集各种各样的数据,也要做计算,而且也要找到数据当中的规律,人也是会考虑这样的因素,人工智能在以这样的方式做决策的时候比人强得多,收集海量数据,找出数据中的规律,然后做出计算,人工智能在这方面比人好的多,越来越多的决策权力会从人类的手中被交到计算机和算法手中。

而且非常有可能发生的情况是,我们会越来越多的看到人类和人工智能融合在一起,这不是谁反对谁、两者对决谁会赢,更有可能的是融合,使得人成为部分有机部分、部分无机的组合体。所以我想把这个问题做一个重新的表述,并非人工智能要和人类发生战争,决定输赢。更多地会是一场“婚礼”,人类和人工智能之间的婚礼。而且我相信这场婚姻肯定会发生。

主持人:人工智能和人类智能的综合,什么样的婚姻中,是有主次、主导,不同的角色分配的。Dr. 魏也举起了一张绿纸表示人工智能一定会战胜人类。让我们非常地诧异甚至是失望。你作为最强大脑的判官,见证了那么多优秀、卓越的大脑所展示出来的人类极限,为何依旧持如此消极的观点?

魏坤琳:就是因为我们研究人类的大脑,特别是研究人类的认知,人是怎么处理信息的。所以我越来越同意尤瓦尔先生的观点——至少他的书里80%的观点我都同意。我们人脑不会在能力上像刚才洪先生展示的金字塔一样,把人类的感知、决策、创造力,我们不会摆出一个金字塔,有高下之分,我们只会把它只会看成不同的模块。而在所有的模块上面,我们都看到人工智能在超越人类。记忆不用谈了,感知力就是我们怎么看待这个世界,人工智能也在跟上,比如现在大家都在做的自动驾驶,这其实是一个感知加运动决策的问题——要快速地感知到路上的行人是怎么走的,然后做出正确地判断。这方面我们(人工智能)马上会改善。最后讲的那个是创造力,创造力在做脑科学、认知科学的人看来没有什么好神秘的,创造很多程度上是已有信息的随机组合,组合完了之后去试错,看它是不是有用、是不是可行。这方面人工智能也跟上来了。比如下围棋的时候,经常AlphaGo走出来的棋局、步数,人想都想不到。柯洁想不到,柯洁说“哎,我都想不到这一步”。这是不是创造性的一步呢?当然是了。这是它(人工智能)的创造力。我们做药物的发明,是要做很多试错的,有很多随机的组合,现在有人工智能在做。未来也会有更多有创造力的工作交给人工智能在做。未来人脑的各种功能——这些模块没有高下之分——每一个模块都会被人工智能所超越。

但是我对这个问题本身不太满意。它(人工智能)为什么要战胜人类呢?好像我们只有winner or loser。我觉得只是说——如果要清晰定义的话,只是在人脑的各种能力上,包括将来通用的AI也会出现的话,我们可以说在Inteligence上面人工智能完全可以击败人类。

主持人:我相信马云对人工智能的观点也是,为什么人工智能要战胜人类,人工智能可以去做人类做不到的事情,但是Dr.魏,难道我们引以为豪的创新、想象力,不是机器所不能达到的吗?

魏坤琳:我们想象什么东西其实都是视觉表现,我们是视觉、空间动物,绝大多数的想象思考是在这个空间里完成的,电脑也可以做到,没问题。就像如果你是蝙蝠,你靠的是声波,那你是在另外一个思维空间里想象,做它的思考。这个本身其实不是不可逾越的鸿沟,人工智能也可以做到。

苏萌:我认为人工智能在很多领域已经战胜了人类,不仅仅是在围棋。我从两个角度来佐证一下为什么我认为AI最终会战胜人类。第一,AI是可叠加的;第二,人工智能的学习能力比人类快得多。

首先,我们人类的存储能力计算能力其实是不错的,可惜的是我们人脑不能像计算机那样非常有效的连接起来。所以一百万个围棋大师加在一起,总的智力并不能让围棋的棋力得到提高,因为合不到一起。而机器可以。

其次,机器的学习能力远远超过人类的学习能力,我们从小学初高中到大学才学了多么点东西。我到今天为止,也只会说英语和东北话,好多语言我都不会。而机器可以迅速学习、迅速阅读、迅速理解大量的语言文字。所以我觉得人类在未来一定战胜不了人工智能。

主持人:还是要问赫拉利教授,他们也认为人工智能一定会战胜人类,因为这两本书你全球成名,对于这些绝对同意你观点的读者你是否认为他们对你所讲的若干个故事也要有一些敬畏呢?

尤瓦尔·赫拉利:对于这个问题,我想讲一讲对于我读者的期望,我不希望我的读者仅仅接受我书中提出的观点,最重要的是我通过这几本书所提出来的问题而不是答案,而且我的书并不是预言未来会发生什么,我的书是指出了未来的不同可能性。在我的书中我竭尽所能地强调并没有什么事情是预定的,我们可以用人工智能来创建一个非常美好的社会,如果我们不小心谨慎的话也有可能创造一个非常糟糕的社会,人工智能本身不过是一个工具,问题是你如何利用这些工具,我对读者的希望是他们如何把注意力放在问题之上,而不是相信我提出的那些解答,要放在问题本身,以不同能力去探究和思考。

主持人:就和一半支持您一半不支持您一样,今天现场我们还有face++的创始人印奇,多大,80后吧,我们不太相信,为什么不太相信呢?一个很重要的观点认为算法是来自于人的,印奇你的理由呢?

印奇:很意外,我是台上唯一一个SAY NO的人。我的观点可能介于刚才尤瓦尔先生和洪小文院长之间,我有三点理由,为什么说最终人工智能不能战胜人类。

第一,是对周期的判断,因为忽略周期去谈终局往往可能都是不准确的。人工智能的发展虽然非常迅速,我和小文院长都是从业者,我们知道我们所谓的人工智能其实在,刚刚接触到人工智能,虽然有个框架,但其实是挺边界上的问题,还没有真正到人工智能最重要的内核。这就给我们人类留下了未来50年到100年足够长的时间,对技术的演进。这首先是一个长周期,在这个长的周期里,我后面有两个理由说明人工智能不会战胜人类。首先我觉得,人工智能和人类的融合和协同进化会早于人工智能达到超过人类智能的那个点——在那之前,AI+HI可能已经完成那个临界点,后面它可能更是有机的实体而不会分为你和我。如果有这么一个长的周期的话,融合发生在战胜之前。

第二,我认为技术的发展本质上只提供了possibility,技术上可能给我们指引出未来有ABC三个选项,可能最终决定人类命运的,是技术以外的因素。如果技术发展在五十年后人工智能可以达到人类的水平,今天尤瓦尔已经向全球警示人工智能可能会战胜人类,这就像一个混沌系统一样,人工智能可能因为人类的预测而发生改变。

基于以上三个观点,我觉得人工智能未来会跟人类更多是协同进化的方向。

尤瓦尔·赫拉利

主持人:确实您的书里面提到了预测最有意思的地方,其实这种警示可能会改变人工智能未来和人类的关系,对于这些年轻的不喑世事的人,不相信你观点的读者您有什么话想在中国跟他们说?

尤瓦尔·赫拉利:非常好,并不是每个人都相信我的观点,这样我们才能讨论,才有更多围绕未来的自由思考,台上几位嘉宾的观点并不完全一致,但有一点是一致的——不要把人工智能想成和人类是战争、对立的关系,而是这两者之间如何融合、发展演进。我认为并不会发生机器人和人类之间的关系,我深刻的担心是人类会发生分裂——一部分成功实现和人工智能融合的人,会获得新的权力,获得人工智能带来的巨大益处,但是人类中的大多数人有可能滞后、会被甩在后面,我担心的是人类将来会分化成这样两个阶级,这样的话会带来巨大的不平等——不同的国家之间,同一个国家不同的阶层之间。

这样的不平等在此前的历史发展中出现过,19世纪由于技术革命,当人类发明了蒸汽机、火车和电力之后,当时我们看到人类当中有一部分,比方说西方国家,英格兰、德国、法国获得了更大好处,但人类当中很大一部分被甩在后面了,所以我们看到少数人类对新的技术有一种垄断地位,如果不小心,这样的情境会让我们感到非常担心。在21世纪的时候,如果少数几个国家——可能不一定是英国、法国、美国这样的,可能是中国或者韩国,如果少数几个国家垄断了新的技术,如果社会当中少数精英阶层人员垄断了这样的技术,所有的其他人被甩在了后面,在这个过程当中,他们可能会被剥削、被社会所遗弃,但是我们今天有能力防止这种现象的出现。为什么我到处去演讲、去宣传我的图书,是因为我想提高大家对这个问题的意识,看到问题背后可能的风险和危险。

主持人:第二个话题就是伴随人工智能和生物技术人机融合的发展,社会是否会出现阶层的分化呢?其实今天到场Dr·魏是带来一个非常尖锐的问题准备挑战您的。

魏坤琳:因为我们做科研的,做什么事情喜欢对事情做一个操作性定义,什么叫做无用,无用到底是道德层面上还是现实层面上定义了无用,还是所谓的数据主义?这些人在决策上没有问题,到底是哪一个层面定义了无用?

尤瓦尔·赫拉利:我用“无用”这样一个词不是说真的一点用都没有了,每个人从某种程度上讲都是很有价值的,我所谓的无用是从经济系统,政治体系角度来讲,人可能会失去他的经济价值,但是不是说所有的人我们社会当中的很多人,大部分人他们会失去他们的经济价值,这是我指的无用,它的规模非常大。比如说军队举个例子,20的时候所有的人从军事上讲都是有价值的,世界上强大的军队都是靠人海战术在打仗,作为士兵人总是有价值的,世界上大部分政府,包括纳粹政府,也要把我们普通人养得壮壮的这样他们可以替我们打仗。但是我们展望未来的时候,从军事上讲失去他的价值了,因为以后的战争,以后的军队,世界上最优秀的军队,他们越来越多的将会依赖复杂的技术,比如网络战争,无人机他们需要人还有机器人打仗,他们可能依赖非常专业的士兵,比如说超级士兵战士,他们不需要人海战术了,未来我们不需要大量几百万的群众进行人海战争,人对于军事这样一项行动来说就变成无用了,所以我们指的是军事无用或者经济无用。在日常经济当中某一个职业的从业者今后失去了他的军事价值,因为他的军事价值失去了,慢慢他的政治价值权力也失去了,你不需要这些人来当兵了,我要再次强调对于任何人而言,他的父母是无价的。

主持人:那Dr·魏您对赫拉利先生这样一个无用什么意思能否对我们解释一下。

魏坤琳:我是觉得他其实有三个论断,他说个人层面上无用,人类作为整体还是有用的,有一个巨大的分化(英文)出现,在一般人眼中他们可能是没有用的。这个事情在历史上发生过,欧洲的殖民者到新大陆探索的时候,当地的土著在他们眼中也是无用的,也没有经济价值,对他们来说哪些当地人倒是占了有价值的东西,比如说那些自然资源,这个历史回到这个时间点来,如果是站到殖民者角度看这个问题是一模一样的,我们中间有什么不同,或者能做什么。

尤瓦尔·赫拉利:这个比较的案例非常好,这个会比当时殖民者的情况更加的糟糕,当时欧洲在非洲殖民或者在亚洲殖民,世界上大部分地方,当地土著的人是非常有用的,至少他们可以当奴隶,可以当工人,比如你去美洲种甘蔗、香蕉、烟草,需要奴隶从美洲运过去种植,他们对于你来说是有价值的。未来为什么更糟糕?因为连奴隶都不需要你当了,所谓的无用阶层就是我不需要你给我做任何事情,你对于我来说没有任何经济价值,我甚至不需要你活着,你活着死了对于我来说没有一点关系,所以这个更加危险。

主持人:我这个是带括号的,“耸人听闻”的,未来的人类相对于人工智能而言,做奴隶的价值都没了,甚至不必存在,毕竟这是一场人类聚集的讨论,希望给自己的未来寻求希望,只有印奇你举出了红告诉我们你的理由。

印奇:我觉得所有技术,从历史的角度来看,带来的是shift(转移),比如马车的车夫不存在了,生产力的提升从来不会带来阶级分化,最终带来阶级分化的是生产关系,最近热的两个技术一个是人工智能,一个区块链,人工智能本身其实是非常中性,我反对的是这个问题,人工智能会不会使人类分化,人工智能的社会效应是我同意的。

主持人:我听明白了,这是反对我啊,但这就是讨论,至少人类有权利去认识自己和这个世界的真相,这样才能更幸福。苏萌老师虽然我们五位坐在台上,可是台下有很多投资家,创业者,他们认为对于商业社会是机会,对于公民社会是灾难,您的观点。

苏萌:刚才尤瓦尔先生也提到了社会分层的加剧,您是否看到了某些领域出现了巨头对于数据的垄断。

尤瓦尔·赫拉利:是的。

苏萌:上一周在AI大会上马云先生说现在谈数据垄断为时过早,尤瓦尔先生您怎么看马云的观点?

尤瓦尔·赫拉利:我认为时间系不一样,作为企业家来说五年是一个非常远的未来,他们一般想未来几个月怎么样,做企业的来说五年非常遥远,作为历史学家五年非常短暂,不同人的时间维度是不一样的,我并不是讨论五年以后出现无用的阶层,五十年之后可能出现这种情况,但是我们现在应该担心五十年之后一百年之后,你可以说还早着,我们还有时间,以后的事情跟我没关系,但这恰恰是我们社会危险所在,这样一个听上去很危险很吓人的局面,我们恰恰需要重视它今天采取行动,或许未来二三十年可以防止这种情况,而不是说二三十年离我们很远不用考虑。我有一个孩子六岁了他现在在学校,可能三十年之后他就业究竟怎么样你还是要去关心的吧,还是要关心六岁的小孩上学之后应该去学哪一些内容,任何一个家里有正要上学的孩子的家庭都有这个问题。

魏坤琳:今天都谈到时间尺度问题,人的认知有一个缺陷,我们经常低估长时间尺度的发展,我们会高估短时间长度的发展,让我们的儿孙们在下一代中间,无论是?(英文)上面还是生活上面有更加的学习性和灵活性。

主持人:尤瓦尔先生对于您刚才坚信的会产生分化如何实现更可能的公平您在书里面没有阐述,能不能在现场做观点分享,如果您成为那1%的神人,99%无用的人您希望他们得到什么样的对待?

尤瓦尔·赫拉利:我们有力量为99%创造一个好的环境,因为我们有技术能够给他们提供吃的喝的教育医疗等等,我并不是那么的悲观,说未来99%的无用阶层连饭都吃不上了我不是说这个,我们资源是有的,问题是在于动机动力,这1%的人有没有动力为这99%的人创造很好的生活,这就需要全球的协调一个单一的国家不足以解决这个问题,不同的国家之间会有分化,有的国家会从人工智能当中大大的获益,他们会成为更加繁荣的国家,更加富裕的国家,其他国家会被远远的甩在后面,所以我们的问题不是在于那1%的人会不会照顾那99%的人,或者是我书里面讲的无用阶层,而是怎么样在全球范围内管理和协调这个问题,特别是对于发展中国家尤其如此,几乎现在所有的经济都是建立在廉价劳动力的基础之上,很多社会比如说孟加拉国越南他们做纺织业,依赖廉价的劳动力去生存,今天他们的孩子,怎么样在教育系统当中为未来人工智能出现做好准备,如果像孟加拉国这样的国家未来三十年当中我们不需要你们的劳动了,不需要你们做鞋子衣服了,怎么办?他们的孩子能不能适应人工智能的到来,要想解决这个问题我们需要国际间的合作,协调。我们现在担心的是我们世界这样一个现状特别是像川普这样的人当了总统,还有脱欧这些,离我们以后的协调越来越远了,这是我们担心的,人工智能需要全球合作而我们没有办法全球合作。

主持人:赫拉利先生没有给出直接的回答,但是您最后那句话说现在全球正在反全球化,越来越民族主义,您的观点是“dangerous”,是危险的。至少说明您对大众的福祉还是有期待的、很关切的。说明人工智能的发展不仅仅是一个技术问题、商业问题、人文问题,还是一个政治问题。伴随着四位的分享,就要进入第三轮的投票了。这轮投票取决于两个因素,第一您是会成为神人还是99%无用的人,第二您到底用什么心态去研究未来的变化。让我们亮出问题——第三个问题是,对于人类的未来您是更乐观还是更悲观?绿色代表更乐观,红色代表更悲观,请亮出您的选择。谢谢。哇,这么犹豫。这就是人类,就像洪小文博士说的一样不乖,他可以挑战规则和算法,于是很多人都举起了两种颜色——我既乐观,也悲观,取决于我未来会成为谁。赫拉利博士,请您来讲一讲为什么这样投?

尤瓦尔·赫拉利:如果来看一下人类的历史,我们确实有很多乐观的理由也有很多悲观的理由。比如说,上一轮的技术革命,当中有核武器,威胁到了人类的生存,上世纪50年代、60年代很多人有这种担心,核武器被发明出来而且当时全世界处于冷战当中,会不会用了核武器导致人类的毁灭。结果这种情况没有发生,人类勇敢地迎接了这个挑战,设法避免了核战争,而且有了核武器之后全世界的暴力水平大幅度下降了,所以今天我们看到世界上的暴力事件,比人类历史上的任何一个时期都要少,今天有更多的人是死于吃得太多而不是死于人类之间的暴力事件。这样的历史又给了我们很多乐观的理由,也就是人工智能的挑战我们也能够去化解。另外一方面迄今为止我们也有一些反面的案例,人类失败的案例,比方说气候变化和全球变暖,也是由技术进步带来的现象,迄今为止我们应对这个问题的技术是非常差的,我们的气候和生态系统在快速地恶化,至少迄今为止人类做得还不够,没有能够预防这个糟糕局面的发生,这就是我们的悲观。我认为,人类是既有可能做出明智的决策也有可能做出非常不明智的决策,我们预先不能够预判,这就是我说我为什么既乐观又悲观。

主持人:台上嘉宾有人是悲观的吗?Dr.魏是两张纸都举起来了,是典型的中国中庸之道。有悲观的吗?都是乐观的。说明我们今天的讨论也是在乐观的基础上探究未来的进化。

因为时间的原因我们论坛也接近了尾声,在最后,我想问您一个相当敏感的问题,您来自以色列,作为一个杰出的犹太人的代表,一个杰出的历史学家,在整本书的观点中您阐述的是人类因为善于编造故事所以有了这个世界,而且伴随着故事的发展人会变成神人,而且神人会很接近上帝的样子。那,您本人相信上帝吗?

尤瓦尔·赫拉利:这并不是敏感的问题,这是非常简单的问题,绝对是否定的,没有。给我更多影响的是佛祖而不是圣经,我认为圣经是一个强有力的故事,但只不过是故事,是人发明出来的故事,就像哈利波特,但并不是世界的真相。

主持人:您的第一本书《人类简史》讲了人类的过去,第二本书《未来简史》讲了人类的未来,那您的第三本书会写什么?

尤瓦尔·赫拉利:经常有人问我这个问题,可能是现在了。讲了过去了,讲了未来了,就剩现在了。

文章有问题?点此查看未经处理的缓存