文艺批评 | 尤瓦尔·赫拉利：数据独裁的兴起

点击上方蓝字，关注文艺批评

编者按

技术的发展变化深刻地塑造着个体和共同体，新的无用阶级可能随之产生。技术将权力由普罗大众导向部分精英群体，使得普罗大众可能会被边缘化，正因如此，蓄势待发的技术革命将使人类面临前所未有的艰难考验。数据将成为21世纪最为重要的资产，因而21世纪的政治将是关于数据流控制权的斗争。在两种不同数据处理机制之间的冲突，即民主与独裁之间的冲突之中，人工智能将优势转向后者，互联网也将使得集权比以往更加强而有力。因此，在数据独裁的时代到来之前，如何保障未来民主就显得尤为重要。

本文改编自尤瓦尔·赫拉利（Yuval Noah Harari）作品“21 Lessons for the 21st Century”，原题为“Why Technology Favors Tyranny”，译者为余先发。尤瓦尔·赫拉利牛津大学博士、青年怪才、全球瞩目的新锐历史学家，现任耶路撒冷希伯来大学的历史系教授，代表作品有简史三部曲：《人类简史》、《未来简史》、《今日简史》。

本文原刊于《大西洋》（The Atlantic）杂志2018年10月刊，转载自“法意读书”公众号，特此感谢！

大时代呼唤真的批评家

尤瓦尔·赫拉利（Yuval Noah Harari）

数据独裁的兴起

译者：余先发

对边缘化（Irrelevance）

的恐惧愈发严重

民主并不是必然的。尽管民主国家在过去一个世纪或更长时间内取得了较大成就，但它们在历史长河中也还只是昙花一现。君主制、寡头政治和其他形式的专制统治是人类治理的常见模式。

自由民主国家的出现与自由和平等的理想有不少关联，这种理想似乎是不言而喻、不可逆转的。但这些理想比我们所想的脆弱得多。他们在20世纪的成功取决于独特的、可能也是转瞬即逝的技术条件。

在21世纪的第二个十年，自由主义逐渐受到批评。自由民主对中产阶级的作用越来越受到质疑；政治愈加部落化;在越来越多的国家，领导人越来越热衷于蛊惑人心和专断。这种政治转变的原因很复杂，但它们似乎是与当前的技术发展相互交织的。促进民主的技术正在变革，并且人工智能可能会带来更多改变。

21 Lessons for the 21st Century，Publisher:Spiegel & Grau; 1st Edition edition (September 4, 2018)

信息技术飞跃发展着;生物技术也为审视我们的内在打开了一扇窗——我们的情感、思想和选择。信息技术和生物技术将给人类社会带来前所未有的动荡，侵蚀政府机构，并可能使我们欲望败坏。基于此，自由民主和自由市场经济可能已经“不合时宜”。

普通人可能不会详细了解人工智能和生物技术，但会感觉到它们正迎面而来。 1938年，苏联、德国或美国普通民众的日子可能并不好过，但他一直被告知自己有举足轻重的地位，有他才有未来（当然，假设他是一个“普通男性”（an “ordinary man”），而不是一个犹太人或女性）。他看着宣传海报——通常是英勇的煤矿工人和钢铁工人——并看到了自己的影子：“简直身临其境啊！我也要做未来的英雄！”

2018年，普通人感到自己越来越被边缘化（Irrelevant）。对于在TED演讲、政府智囊团以及高科技会议上人们兴奋谈论的那些神秘术语——全球化、区块链、基因工程、人工智能和机器学习——普通人（包括男性和女性）都可能认为这些术语与他们相距甚远。

在20世纪，群众反抗剥削，并试图将其在经济中的重要作用转化为政治权力。现在，普罗大众担心自己被边缘化，他们近乎狂热地利用他们尚存的政治权力。因此，英国退欧和唐纳德·特朗普上台可能呈现了与传统社会主义革命相反的轨迹。俄罗斯、中国和古巴的革命是那些经济上举足轻重但缺乏政治话语的人掀起的; 2016年，特朗普和英国脱欧得到许多人的支持，他们虽享有政治权力，但却担心正失去经济财富。也许，21世纪此起彼伏的民粹主义并不是为反对剥削人民的经济精英，而是指向那些不再需要他们的经济精英。这场战斗很可能失败。与反剥削相比，反边缘化要困难得多。

信息技术和生物技术革命仍处于起步阶段，在多大程度上将当前的自由主义危机归咎于它们，仍尚待商榷。伯明翰、伊斯坦布尔、圣彼得堡和孟买的大多数人可能些许意识到人工智能的兴起及其对生活的潜在影响。然而，毫无疑问，未来的数十年内，蓄势待发的技术革命将使人类面临前所未有的艰难考验。

一个新的无用阶级？

让我们从工作和收入开始阐述，因为无论自由主义民主哲学诉求如何，它在很大程度上得益于实际优势：在政治和经济领域中，自由主义特有的分权决策方法有助于自由民主国家战胜其他国家，并向其人民供给更多财富。

自由主义向每个人都许诺更大的蛋糕，从而缓和了无产阶级与资产阶级、信教者与无神论者、土著与移民、亚洲人与欧洲人之间的对立。过去，随着蛋糕越做越大，这是可能的。蛋糕很可能会继续增长。然而，经济增长可能无法解决当前技术现状造成的社会问题，因为这种增长越来越多地取决于颠覆性的技术发明。

1942年，德克萨斯州沃思堡的一名女工人。

当时，男性参军，女性生产。

当然，担心机器引发失业并不是什么新鲜事，过去这种担心没有成为现实。但人工智能与旧机器时代不同。过去，机器主要以体力技能与人类竞争。现在他们开始在认知技能方面与我们竞争。我们不知道在体力和认知之外，是否人类还具备一种有恒久优势的技能。

至少在未来数十年内，人类智能在众多领域可能远优于计算机智能。因此，随着计算机应用于更多的常规认知性工作，新创造性岗位将不断涌现。以上不少新岗位可能有赖于人与人工智能之间的合作而非竞争。人类-人工智能的组合可能不仅优于人类，而且对独立工作的计算机也有优势。

然而，大多数新工作岗位可能需要高水平的专业知识和独创性，因此可能无法解决失业的非熟练劳动者或只能以极低工资解决工人就业问题。此外，随着人工智能不断发展，那些需要高智商和创造力的工作也可能逐渐消失。这种情况在象棋领域可能已经初露头角。在IBM计算机Deep Blue于1997年击败加里·卡斯帕罗夫（Garry Kasparov）后的几年里，人类棋手仍生机勃勃; AI被用来训练人类神童，并且人类和计算机的组合胜于独立电脑的表现。

然而近年来，计算机在象棋比赛中似如有神助，以至于与它们合作的人类棋手已经无用武之地并可能很快被完全边缘化。2017年12月6日，Google的AlphaZero击败了Stockfish 8，这是一个重要的里程碑。Stockfish 8曾在2016年世界电脑象棋锦标赛中获胜。它拥有人类累积的数百年国际象棋经验，以及数十年的计算机经验。相比之下，AlphaZero没有被人类教授任何国际象棋策略。相反，它运用最新的机器学习原理在与自己的对弈中自学。尽管如此，AlphaZero战绩斐然。如果不说是天才的话，它们也是富有创造力的。

国际象棋中人与人工智能的联合在警侦、医学、银行和许多其他领域内也许正勃然兴起。更重要的是，人工智能（AI）享有独特的非人类能力，这在人工智能与人类工作者之间体现为种类差别而不仅是程度差异。互通性和可更新性是AI拥有的两个尤为重要的非人类能力。

例如，许多驾驶员不熟悉变动不居的交通法规，并因此经常违反它们。此外，由于每个驾驶员都是单一个体，当两辆车行进至同一个交叉路口时，驾驶员有时会误传彼此意图并发生碰撞。相比之下，自动驾驶汽车了解所有交通规则，从不故意违反它们，并且它们都可以相互连接。当它们接近同一个路口时，实际上不是两个独立的实体，而都是受统一控制的。因此，它们误传和碰撞的可能性要小得多。同样，医疗领域也是如此。互联互通和可更新性的潜在优势非常巨大，在某些工作中，计算机代替人类可能意义非凡。

综上，我们会得出一个非常重要的结论：自动化革命不是某个单一的转折事件，且之后就业市场重获均衡。相反，它将是一连串巨大的破坏。旧岗位会消失，新工作岗位会出现、经历巨变并消失。人们需要不断接受培训并重塑自己。

正如政府在20世纪为年轻人建立了大规模的教育体系那样，他们在21世纪有必要为成年人建立普遍的再教育制度。但仅此而已么？人们是否能应对工作上日益增加不稳定性？到2050年，由于工作机会或者相关教育的匮乏，以及人们没有足够耐性不断学习新技能，一个新的无用阶级可能会出现。

数字独裁统治（Digital Dictatorships）的兴起

许多人随着经济财富的失去，他们也可能失去政治权力。可能使数十亿人经济边缘化的技术也使他们更容易监控。

许多人认为AI可能会反叛，他们因此而惧怕。科幻小说对计算机或机器人意识发展的可能性着墨不少——认为它们不久将尝试杀死人类。但没有任何理由认为AI会因更加智能化而有意识。相反，我们不应该恐惧AI，它会对人类主人言听计从，永远不会反叛。人工智能是一种与以往发明都不同的工具和武器;它几乎肯定会让已经强大的人类进一步巩固自身权力。

就监视来说。世界上许多国家，包括几个民主国家，正忙于建立前所未有的监视系统。例如，以色列是监视技术领域的领头羊，并在被占领的西岸创建了一个全面监视体系的雏形。巴勒斯坦人可以管理西岸的一些城镇和村庄，但以色列人掌控着天空、电视广播和网络空间。因此，只需极少的以色列士兵就可以监控居住在西岸的大约250万巴勒斯坦人。西岸巴勒斯坦人如今的经历，也许只是全球数十亿人最终经历的预演。

想象一下，若朝鲜政权将来掌握了类似更高级的技术。朝鲜人可能被强制要求佩戴生物识别手镯，以监测他们的所做和所说，还有他们的血压和大脑活动。利用对大脑日益增多的了解和机器学习的巨大能量，朝鲜政府最终也许能知道每个公民每时每刻都在想什么。如果一个朝鲜人看着金正恩的照片，并且生物识别传感器采集到愤怒的迹象（血压升高，杏仁核活动增加），那个人第二天可能就会被丢进集中营。

然而，至少在很多时候，这种策略可能并无必要。可以肯定的是，操纵选民感情并不是什么新鲜事。但是，一旦某人（无论是在旧金山，北京还是莫斯科）掌握了操纵人类心灵的技术能力——可靠、廉价和成规模地——民主政治将退化成情绪化的木偶剧。

在接下来的几十年里，机器不太可能会有情感、也不太可能反叛，但是我们可能不得不面对那些比我们的母亲更知道如何控制我们情感，并听从人类精英的命令，运用这种不可思议的能力向我们推销汽车、政客、意识形态或者其他东西的机器人。机器人可能知道我们最深的恐惧、仇恨和渴望，并以此对付我们。在全球最近的选举和公投中，黑客通过分析选民数据和利用他们的偏见来学习如何操纵选举时，我们就对此已有耳闻。虽然科幻惊悚片往往有大火和烟雾漫天的灾难，但现实中我们点击鼠标可能也要面对此种局面。

2017年7月6日，本文作者在北京讲授人工智能。

人工智能革命最大和最骇人的影响可能与民主国家和独裁政权的相对效率有关。历史地看，独裁政权面临着创新和经济增长的巨大障碍。20世纪后期，民主国家通常比独裁统治表现更好，因为它们在信息处理方面要好得多。我们倾向于将民主与独裁之间的冲突视为两种不同道德体系之间的冲突，但它实际上是两种不同数据处理体系之间的冲突。民主分权处理信息并由多人/机构决策，而独裁统治将信息和权力集中在一个地方。鉴于20世纪的技术，信息和权力过于集中是低效的。没有人能又快又准确地处理众多信息并正确决策。与美国相比，这是苏联决策糟糕透顶以及经济落后的原因之一。

然而，人工智能也许很快将扭转这种态势。AI可以集中处理大量信息。事实上，它可能使集中式体制比分散式更有效，因为机器学习在有更多可供分析的信息时更高效。20世纪专制政权的主要障碍——将所有信息和权力集中在某个地方——可能在21世纪成为决定性优势。

当然，新技术会不断涌现，其中一些技术可能会有助于信息和权力分散而非集中。区块链技术以及其带来的加密货币使用目前被认为是权力集中的可能对手。但区块链技术仍处于萌芽阶段，我们还不知道它是否会真正抵消人工智能的集中化趋势。互联网在早期被夸大为为一种将人们从集权体制下解放出来的自由主义灵丹妙药——但现在它却使得集权比以往都有强有力。

向机器的权力转移

即使某些社会表面上仍是民主的，但算法效率的提高也会将越来越多的权力从个人导向网络化机器。我们可能会心甘情愿地放弃生活的“自主权”，因为经验告诉我们机器算法比情感更可信，最终我们将失去独立决策的能力。Google搜索算法使得我们独立定位信息的能力降低，这一进程也影响着我们的身体机能，如空间导航。人们要求Google不仅要查找信息，还要引导他们。自动驾驶汽车和AI医生将是进一步的侵蚀：尽管这些创新将使卡车司机和人类医生失业，但更大的意涵在于权力和责任将不断向机器转移。

人类惯于将生活视为不断的决策。自由民主和自由市场资本主义将个人视为一个不断对世界作出选择的自主个体。艺术作品——无论是莎士比亚戏剧，简·奥斯汀的小说，还是俗气的好莱坞喜剧——通常都是围绕着做某些关键决定的英雄展开的。生存还是毁灭？嫁给柯林斯先生或达西先生？基督教和穆斯林神学同样关注决策的戏剧性，认为永恒的救赎取决于正确的抉择。

当我们日益依靠AI决策时，这种生活观会发生什么？现在，我们相信Netflix会推荐我们喜欢的电影，Spotify会列出我们喜欢的音乐。但为什么AI的益处会止步于此呢？

Netflix

Spotify

每年都有数百万大学生需要决定学什么。这是一个非常重要且非常困难的决定，是在父母、朋友和教授的压力下做出的，他们有不同的兴趣和意见。它也受到学生自身个人恐惧和幻想的影响，这些恐惧和幻想本身就是由电影、小说和广告所塑造的。问题是，学生并不真正知道某个职业中成功的要素是什么，并且不一定对他或她自己的优缺点有现实的认识。

人工智能有朝一日可以比我们做出关于职业生涯、甚至人际关系更好的决策。但是，一旦我们在学习、工作、约会甚至婚姻上依赖AI决策时，人类生活的意义将只是如戏剧般的决策，并且我们的生活观念将不得不改变。民主选举和自由市场可能不再有意义。大多数宗教和艺术品也是如此。想象一下，Anna Karenina拿出智能手机并询问Siri是否应该维持与Karenin的婚姻，还是与潇洒的Count Vronsky私奔。我们还能赋予这样的生活什么意义？

《安娜·卡列尼娜》（Анна Каренина）

1878年第一版

议会和政党可以克服这些困难并预防更暗淡的情况么？目前似乎不太可能。技术混乱在政治议程上并没有多少地位。 2016年美国总统大选谈及的破坏性技术主要是关于希拉里·克林顿电子邮箱的崩溃，抛开其中所有关于失业问题的讨论，两位候选人都没有直接提及自动化技术的潜在影响。唐纳德·特朗普提醒选民，墨西哥人会抢走他们的工作，因此美国应该在其南部边境修建一条“长城”，然而他却从未向选民发出警告，告诉他们机器算法会抢走他们的工作，他也没有提议去加利福尼亚周围修建一条“长城”。

我们将往何处去？

首先，我们需要更加努力地去理解人类思维的运作方式——特别是去关注人类如何培养自己的智慧和同情心。如果我们在人工智能上投入太多而在开发人类思维方面投入太少，那么异常复杂的计算机人工智能可能只会致使人类天生的愚蠢被加强，并造就我们最可怕的（也可能是最强大的）冲动，比如贪婪和仇恨。为了避免这样的事情发生，明智的做法就是把我们投资于研发人工智能的每一美元和每一分钟，投入到探索和发展人类意识的事业上。

更现实而紧急的是，如果我们想要防止所有财富和权力集中在一小群精英的手中，我们必须规制数据的所有权。在古代，土地是最重要的资产，因此政治是关于土地控制权的斗争。到现代，机器和工厂变得比土地更重要，所以政治斗争的重点是这些重要的生产资料的控制权。到了21世纪，数据将使曾经最为重要的资产——土地和机械——都成为昨日黄花，政治将是关于数据流控制权的斗争。

不幸的是，对于数据所有权方面的问题，历史经验无迹可寻，这个问题的难度，远远超过过往对土地或机器的规制。数据无处不在，同时又看不见摸不着，它们可以以光速移动，而你也可以根据需要随意复制他们。那些被收集的关于我的DNA、我的大脑和生命的数据是属于我，还是属于政府，公司或人类集体？

积累数据的竞赛早已开始，只是目前的弄潮儿主要是谷歌和Facebook以及中国百度和腾讯这样的巨头公司。到目前为止，这些公司中的许多公司都是作为“注意力商人” ——他们通过向我们提供免费信息、服务和娱乐自愿来吸引我们的注意力，然后他们将我们的注意力转卖给广告商。然而，他们真正的业务不仅仅是销售广告。相反，通过吸引我们的注意力，他们设法集聚了大量关于我们的数据，这些数据的价值远远高于任何广告收入。我们并不是他们的客户，而只是他们的产品。

一般人都会觉得抵制这样的进程是非常困难的。因此，目前我们中的许多人都乐于将我们最宝贵的资产——我们的个人数据——拱手相送，以换取免费电子邮件服务和搞笑的猫咪视频。但是，如果以后，普通人决定试图切断数据流，他们可能会遇到诸多麻烦，特别是在他们未来可能已经开始依赖网络帮助他们做出决策——甚至关乎他们的身体健康和生死存亡问题的决策的时候。

政府将数据国有化可以算作是一种解决方案;它肯定会遏制大公司的“权力”。但历史表明，在过度强大的政府下，我们不一定过得更好。所以我们最好要求我们的科学家、我们的哲学家、律师、甚至我们的诗人将他们的注意力转向这个大问题：你们将如何规范数据的所有权？

目前，人类有可能变得与家养动物相似。我们养育了能够生产大量牛奶的温顺奶牛，但它们却远远不如它们野生的祖先。他们不那么敏捷，不那么好奇，而且也不再聪慧。我们现在正在创造温顺的人类，他们在巨大的数据处理机制中生产大量数据并被作为高效芯片发挥功效，但它们几乎不可能最大化开发其属于人类的潜力。如若稍有不慎，我们最终会沦为“滥用强大计算机的堕落人类”，自我毁灭，并重创世界。

如果你觉得这些预想令人担忧——如果你不喜欢生活在数据独裁社会或某种堕落的社会里——那么你可以做的最重要的贡献是找到防止过多数据集中在很少一部分人的手中的方法并且去探寻使分布式数据处理比集中式数据处理更有效的方法。这些不是一件容易的事。但实现这些目标可能是未来民主的最佳保障。

《今日简史》、《人类简史》、《未来简史》

作者：尤瓦尔·赫拉利

出版社：中信出版集团

出版时间：2018.8

本文原刊于《大西洋》（The Atlantic）

杂志2018年10月刊

明日推送

张慧瑜

“从月光集市到中国”：

宝莱坞对国产大片的启示

或许你还想看

微信号：Wenyipiping

微博号：文艺批评Wenyipiping

IPHONE用户

由此赞赏

本期编辑 | 好大的风

图源 | 网络