科技缘何成为独裁者的帮凶？
人工智能会瓦解民主，侵蚀自由和平等。如果我们不阻止它，权力将进一步向一小撮精英手中集聚。
《大西洋》杂志2018年10月号
https://www.theatlantic.com/magazine/archive/2018/10/yuval-noah-harari-technology-tyranny/568330/
（本文转载自微信公号“人定湖学者”）
“无关者”恐惧
民主不是历史的必然，尽管民主国家在过去一个世纪或更长时间内在所有方面取得了成功，但民主仍然是历史上的昙花一现。君主制，寡头政治和其他形式的专制统治是人类治理的常见模式。
自由民主国家的出现与自由平等的理想相联系，这种理想似乎是不言而喻、不可逆转的。但这些理想比我们想象的要脆弱得多。他们在20世纪的成功可能取决于短暂而独特的技术条件。
在21世纪的第二个十年，自由主义开始褪色。中产阶级关于自由民主的问题越来越多; 政治变得更加部落化; 在越来越多的国家，领导人表现出对蛊惑人心和专制的偏爱。这种政治转变的原因很复杂，但它们似乎与当前的技术发展交织在一起。民主的支撑性技术正在发生变化，随着人工智能的发展，它可能会进一步发生变化。
信息技术正在继续飞跃; 生物技术开始为我们的内心生活提供一扇窗户：我们的情感，思想和选择。信息技术和生物技术将共同造成人类社会前所未有的动荡，侵蚀人类组织，并可能颠覆人类的欲望。在这种情况下，自由民主和自由市场经济可能会过时。
普通人可能无法深入了解人工智能和生物技术，但他们可以感觉到未来会经历什么。在1938年，苏联、德国或美国的普通人生活状况可能很窘迫，但他们经常被告知自己是世界的主人，自己就是未来（当然这里的“普通人”指的不是犹太人或女人）。他们看着宣传海报：那种以英雄一般描绘的煤矿工人和钢铁工人的海报，眼中看到自己的未来：“我就在那张海报里！我就是未来的英雄！“
而2018年的普通人感到自己越来越无关紧要。许多神秘的术语在政府、智库和高科技会议上兴奋的传播：全球化，区块链，基因工程，人工智能，机器学习......一个普通人，无论男女，都会意识到这些术语其实与我没什么关系。
20世纪的普通民众通过反抗剥削，将其在经济中的重要作用转化为政治权力。现在的普通民众担心自己成为“无关者”，于是就疯狂地利用他们所剩无几的政治权力。因此英国退欧和唐纳德特朗普的崛起，都呈现出与传统社会主义革命相反的轨迹：俄罗斯中国和古巴的革命，都是由对经济至关重要但缺乏政治权力的人群所发起的，但 2016年的特朗普的崛起和英国脱欧，其支持者仍然享有政治权力，他们恐惧的是自己失去经济价值。
也许在21世纪，民粹主义的起义不是针对那些剥削人民的精英，而是针对那些不再需要人民的精英。这可能是一场失败的战斗。
信息技术和生物技术的革命仍处于起步阶段，它们对当前自由主义危机的负责程度值得商榷。伯明翰，伊斯坦布尔，圣彼得堡和孟买的大多数人只是敏锐地意识到人工智能的兴起及其对生活的潜在影响。但毫无疑问，正在积聚能量的技术革命将在未来几十年内面对人类所面临的最艰难的考验。
新无用阶级
让我们从工作和收入问题开始讨论，因为无论自由民主的哲学诉求如何，它在很大程度上得益于现实优势：在政治和经济学中，自由主义的特征使得自由民主国家胜过其他国家，并为其人民带来越来越多的财富。
自由主义通过向每个人承诺更大的馅饼来消解彼此之间的矛盾：无产阶级与资产阶级，信众与无神论者，移民与土著，亚洲人与欧洲人。随着馅饼的不断增长，这种和解就是可持续的。馅饼可能会持续增长，但经济增长无法解决现在由技术破坏造成的社会问题，因为社会越来越依赖于颠覆性技术。
当然，人们对自己被赶出就业市场的恐惧并不是什么新鲜事，这种担心在过去被证明是没有根据的。但人工智能与旧时代的机器不同，过去的机器主要以手工技能方面与人类竞争，现在则开始在认知技能方面与我们竞争。而对人类而言，我们并没有第三种技能，可以确保人类的长久优势。
未来几十年，人类的智力仍可能远超许多领域的计算机智能。因此随着计算机接管更多的常规认知工作，人类新的创造性工作将继续出现。这些新工作中的许多可能取决于人与人之间的合作而非竞争。人工智能团队可能不仅对人类有优势，而且对自己的计算机也有优势。
但大多数新工作可能需要高水平的专业知识和独创性，因此可能无法解决非熟练劳动者或极低工资工人的失业问题。此外随着人工智能不断提高，即使是需要高智商和创造力的工作也可能逐渐消失。国际象棋世界是未来可能走向的一个例子。在IBM的计算机Deep Blue在1997年击败卡斯帕罗夫之后的几年里，人类象棋选手仍然蓬勃发展; AI被用来训练人类神童，由人类和计算机组成的团队证明优于电脑玩家。然而近年来，计算机已经变得如此擅长下棋，以至于他们的人类合作者已经失去了价值并且可能很快变得完全无关紧要。
2017年12月6日，Google的AlphaZero击败了Stockfish 8，实现了另一个重要的里程碑。2016年Stockfish 8赢得了世界计算机国际象棋冠军。它可以获得数百年的人类国际象棋积累经验，以及数十年的计算机经验。相比之下，AlphaZero没有被人类创造者教授任何国际象棋策略 ，甚至没有标准的开放。它使用最新的机器学习原则通过对抗自身来教自己国际象棋。在AlphaZero新手对阵Stockfish 8的100场比赛中，AlphaZero赢得了28场胜利及72场和局，一次都没有输。由于AlphaZero没有从任何人类身上学到任何东西，因此它的许多获胜动作和策略似乎都是人眼所不具备的，它们可以被描述为想象力，或是与生俱来的才能。
你能猜到AlphaZero从头开始学习国际象棋，到准备与Stockfish 8的比赛，再发展出其天才本领一共花了多少时间吗？四个小时。几个世纪以来国际象棋被认为是人类智慧的最高荣耀之一。AlphaZero无需任何人类导师帮助，从完全无知到创造性掌握，只需要四个小时。
AlphaZero并不是唯一富有想象力的软件。今天在国际象棋锦标赛中捕捉骗子的方法之一是监控棋手的创造性水平。如果棋手的招法特别具有创造性，评委们通常会怀疑它不可能是人类行为，必定是一个计算机下出的招法。至少在国际象棋中，创造力已经被认为是计算机的标志而不是人类的！如果国际象棋是煤矿中的金丝雀，我们可以经说金丝雀已死：今天在国际象棋中人类AI团队发生的事情可能会发生在警察，医学，银行和许多其他领域的人工智能上。
更重要的是，AI具备人类所没有的一些独特能力，这使人工智能与人类工作者之间的差异化更有利于AI，其中两个特别重要的能力是“连通性”和“可更新性”。
例如，人类驾驶员很难做到对道路上所有不断变化的交通规则都了如指掌，而且有时他们会故意违反规定。此外由于每个驾驶员都是单独的个体，当两辆车接近同一个交叉路口时，驾驶员有时会误解他人的意图并发生碰撞。
相比之下，自动驾驶汽车将了解所有交通规则，并且从不故意违反交规，它们可以相互连接，当两个这样的车辆接近同一个十字路口时，它们实际上不是两个独立的实体，而是整体算法的一部分。因此他们发生误会和碰撞的可能性要小得多。
同样，如果世界卫生组织确定一种新的疾病，或者一个实验室生产一种新药，它无法使世界上所有的人类医生立即获得这一信息。然而即使全世界拥有数十亿的AI医生（每个都在监测一个人的健康状况），你仍然可以在瞬间更新所有的AI医生，并且它们可以相互沟通对新疾病的评估或医学知识。
连接和可更新性的潜在优势非常巨大，至少在某些工作中，即使个别人类可能确实比机器更出色，但用计算机替换掉所有的人类还是很有意义的。
所有这些都导致了一个非常重要的结论：自动化革命不会包含单一的分水岭事件，就业市场随之进入一些新的均衡态。这场革命将是一连串更大的破坏，旧工作将会消失，新工作岗位将会出现，而新工作岗位又将迅速改变并消失，人类需要重新训练并重塑自己，不是一次，而是反复多次。
正如20世纪政府为年轻人建立了大规模的教育体系，21世纪的政府需要为成年人建立大规模的再教育制度。但这就够了吗？改变就会带来压力，21世纪初的繁忙世界已经产生了全球范围内的压力流行。随着工作波动性的增加，人类还能应付得了吗？到2050年，可能会出现一个无用的阶级，这不仅是因为缺乏工作或教育，还因为缺乏足够的精神耐力来不断学习新技能。
数字独裁崛起
一旦人失去了经济价值，他们可能也都失去政治权力。令数十亿人在经济上无关紧要的新技术，也使他们更容易被监控。
想一想关于监视的问题。世界上许多国家（包括一些民主国家）正忙于建立前所未有的监视系统。以色列是监视技术领域的领导者，并在被占领的西岸地区创建了一个全面监视制度：今天，每当巴勒斯坦人打电话，在Facebook上发布内容或从一个城市到另一个城市旅行时，他们很可能会受到以色列麦克风，相机，无人机或间谍软件的监控。算法分析收集的数据，帮助以色列安全部队查明并消除他们认为是潜在威胁的内容。巴勒斯坦人可以管理西岸的一些城镇和村庄，但以色列人掌控着天空，电视广播和网络空间。有效地控制居住在约旦河西岸的大约250万巴勒斯坦人，只需要很少以色列士兵。
2017年10月，一名巴勒斯坦劳工在他的私人Facebook账户上张贴了自己在工作场所的照片，以及推土机。并在上面写了一句“早上好！”Facebook翻译算法在翻译时出现了错误。算法将这些字母识别为Ydbachhum（意思是“伤害他们”），而不是Ysabechhum（意思是“早上好”）。以色列安全部队怀疑这名男子可能是一名恐怖分子，于是迅速逮捕了他。在他们意识到算法出错之后释放了这名巴勒斯坦人，而“违规”的Facebook帖子也被删除了。巴勒斯坦人今天在西岸的经历，可能只是全球数十亿人终将经历的未来预览。
假如，朝鲜目前的政权在未来获得了这种技术的更高级版本。朝鲜人可能需要佩戴生物识别手镯，监测他们所做和所说的一切，以及他们的血压和大脑活动。利用对人类大脑日益增长的理解并利用机器学习的巨大力量，朝鲜政府最终可能能够衡量每个公民每时每刻都在想什么。如果一个朝鲜人看着领袖的照片，生物识别传感器发现了愤怒的迹象（血压升高，激素水平增加），那个人第二天就可能被捕。
其实很多时候根本无需使用这种“硬控制”技术。尽管一些国家对公众的实际控制越来越少，但却可以左右其投票的立场，操纵选民感情的尝试不是什么新鲜事，而一旦某人（无论是在旧金山，北京还是莫斯科）获得了有效的，低成本的大规模心理操纵技术，民主政治终将沦为一场木偶剧。
未来几十年，我们不太可能遭遇具备了感情的机器人，但是可能不得不面对那些比你妈更善于控制你情感的机器人，而它们会非常熟练的使用这种不可思议的能力。人类的精英在忙于向我们推销一些东西，无论是汽车，政治家还是整个意识形态；而机器人则直接识别我们内心深处的恐惧，仇恨和渴望，并利用它来对付我们。
其实人工智能革命的最大、最可怕的后果，是影响民主国家和独裁政权的相对效率。历史上的独裁政权在创新和经济增长方面面临着严峻的障碍。在20世纪后期，民主国家通常胜过独裁统治，因为他们在处理信息方面要好得多。我们常将民主与独裁之间的冲突视为两种不同道德体系之间的冲突，但它实际上是两种不同数据处理系统之间的冲突。民主分配权力来处理信息并在许多人和机构中做出决定，而独裁统治将信息和权力集中在一个地方。鉴于20世纪的技术，在一个地方集中太多的信息和权力是低效的。没有人能够足够快地处理所有可用信息并做出正确的决定。这是苏联做出比美国更糟糕的决定的原因之一，以及为什么苏联经济远远落后于美国经济。
但人工智能可能很快将钟摆向相反方向摆动。AI可以集中处理大量信息。实际上，它可能使集中式系统比分散系统更有效，因为对机器学习而言信息越多效果越好。如果您忽略所有隐私问题并将所有与十亿人相关的信息集中在一个数据库中，那么您将获得比尊重个人隐私更好的算法，命令其所有公民进行DNA测序并与某些中央机构分享医疗数据的政府，将比那些在医学数据严格尊重隐私的政府和机构获得巨大的优势。20世纪的主要障碍（将所有信息和权力集中在一个地方）可能成为21世纪的决定性优势。
当然新技术将继续出现，其中一些技术可能会鼓励分配而不是集中信息和权力。如区块链技术以及由其启用的加密货币的使用，但区块链技术仍处于萌芽阶段，我们还不知道它是否会真正抵消人工智能的集中化趋势。请记住，互联网在早期被宣传为一种自由主义的灵丹妙药，可以让人们从所有集中系统中解放出来，但现在它已经准备让集中系统比以往更加强大。
把权力交给机器
即便一些社会能够努力保持表面上的民主，算法对效率的影响仍会改变我们，人类个体越来越多的把权力交给联网的机器，因为我们将从生活经验中逐步变得越来越信任算法，心甘情愿地放弃对我们生活的更多权力，最终失去了为自己做出决定的能力。
短短二十年时间，数十亿人就已经向Google的搜索算法委托给每个人最重要的任务之一：找到相关且值得信赖的信息。我们更多地依靠Google来寻求答案，我们独立处理信息的能力减弱了。今天的“真相”是由Google搜索的最佳结果定义的。这个过程同样影响了我们的身体能力，例如导航，人们要求Google不仅要查找信息，还要引导他们。自动驾驶汽车和AI医生同样如此：虽然这些创新将使卡车司机和人类医生失业，但最重要的是加剧了人类的权力和责任向机器转移的过程。
人类习惯于将生活视为由一系列决策组成的戏剧。自由民主和自由市场将个人视为一个不断对世界作出选择的自主的理性人。艺术作品（无论是莎士比亚戏剧，简奥斯汀小说，还是好莱坞喜剧）通常围绕着英雄做出一些关键决定。生存还是毁灭？听我妻子的话并杀死邓肯国王，或按照我的良心饶恕他？嫁给柯林斯先生或达西先生？基督徒和穆斯林同样关注决策的戏剧性，认为永恒的救赎取决于做出正确的选择。
当人类依靠AI为我们做出决定时，这种生活观会发生什么？现在我们相信Netflix会推荐电影，Spotify会选择我们喜欢的音乐。你觉得AI帮助我们做出选择的进程会裹足不前？
每年都有数百万大学生需要决定学习什么，这是一个非常重要和困难的决定，是在父母，朋友和教授的压力下做出的，他们有不同的兴趣和意见。它也受到学生自身个人恐惧和幻想的影响，这些恐惧和幻想本身就是由电影，小说和广告活动所塑造的。使问题复杂化的是，一个特定的学生并不真正知道在一个特定的职业中取得成功需要什么，并且不一定对他或她自己的优缺点有现实的认识。
人工智能有朝一日可以做出比职业生涯规划更好的决策，甚至替你决策人际关系也不在话下。一旦我们开始依靠AI决定学习什么，在哪里工作，与谁约会甚至与谁结婚，人类生活将不再是决策的戏剧，我们的生活观念将需要改变。不但民主选举和自由市场不再有意义，大多数宗教和艺术品也是如此。想象一下安娜·卡列尼娜拿出她的智能手机并询问Siri是否应该与卡列宁结婚还是与潇洒的伯朗斯伯爵私奔。想象一下你最喜欢的莎士比亚通过Google算法做出所有重要决定，哈姆雷特和麦克白的生活会更加舒适，但这些生活会是什么样的生活？我们是否有能够理解这种生活的模型？
议会和政党是否克服了这些挑战并阻止了黑暗的情景？目前这似乎不太可能。技术破坏甚至没有出现在政治议程表上。在2016年美国总统竞选期间，技术的破坏性主要内容涉及希拉里克林顿的电子邮件崩溃，尽管两位候选人都在谈论失业，但都没有直接解决自动化的潜在影响。特朗普警告选民墨西哥人会接受他们的工作，因此美国应该在其南部边境修建一堵墙。他从未向选民发出警告说算法会占用他们的工作，他也没有建议在加利福尼亚周围建立防火墙。
人类何去何从？
首先，我们需要更加重视人类思维的运作方式，特别是如何培养自己的智慧和同情心。如果我们在人工智能上投入太多而在开发人类思维方面投入太少，那么愈加复杂的人工智能可能只会加剧人类的愚蠢化，并培养我们最糟糕的（也可能是最强大的）冲动，其中有贪婪和仇恨。为了避免这样的结果，我们应在投资于改善人工智能的同时，对探索和发展人类意识投入同等力度。
更实际而直接的是，如果我们想要防止所有财富和权力集中在一小撮精英手中，我们必须规范数据所有权。在古代，土地是最重要的资产，因此政治是控制土地的斗争。在现代，机器和工厂变得比土地更重要，因此政治斗争的重点是控制这些重要的生产方式。在21世纪，数据将使土地和机械都成为最重要的资产，因此政治将是控制数据流动的斗争。
不幸的是，我们在管理数据所有权方面没有太多经验，这本身就是一项比管理土地或机器更困难的任务。数据无处不在，无时不在，它们可以以光速移动，您可以根据需要创建任意数量的副本。收集的关于我的DNA，我的大脑和生命的数据是属于我，还是属于政府，公司或人类集体？
积累数据的竞争已经开始，目前由谷歌和Facebook以及中国百度和腾讯等巨头领导。到目前为止，这些公司中的许多公司都充当了“关注商家” - 他们通过向我们提供免费信息，服务和娱乐来吸引我们的注意力，然后他们将我们的注意力转移给广告商。然而，他们真正的业务不仅仅是销售广告。相反，通过吸引我们的注意力，他们设法积累了大量关于我们的数据，这些数据比任何广告收入都更有价值。我们不是他们的客户，我们是他们的产品。
普通人会发现很难抵制这个过程。目前我们许多人都乐于赠送我们最宝贵的资产（我们的个人数据）以换取免费电子邮件服务和有趣的视频。但如果某一天，普通人决定试图阻止数据流，他们可能会遇到麻烦，特别是因为他们可能已经开始依赖网络帮助他们做出决策，甚至他们的身体健康和生活。
政府将数据国有化固然是一种办法，它肯定会遏制大公司的权力。但历史表明，把财富交给政府并不一定是最好的办法。我们的科学家，我们的哲学家，律师，甚至我们的诗人把他们的注意力转向这个大问题：如何规范数据的所有权？
人类有可能变得与家养动物相似。我们培育了用以生产牛奶的温顺奶牛，但其实际能力还远远不如其野生祖先。我们现在正在创造驯服的人类，他们在巨大的数据处理机制中产生大量数据并作为高效芯片发挥作用，但他们却没有在发展人类自身潜力方面有所进展。如果我们不小心翼翼，我们最终会让人类退化，并让进化的计算机日益泛滥，对自己和世界造成严重破坏。
（全文完）
（本文转载自微信公号“人定湖学者”）