罗东：关于人工智能的那些预言，你相信吗

文 | 罗东

▍一个预言，三种恐慌

在二十一世纪，全球将有数十亿的人变得“毫无价值”，成为一种“无用阶层”。随着大数据AI高度发展，工作和决策都交由机器和算法来完成，他们是被技术发展抛弃的人，只用毒品和虚拟现实来度日。

这是赫拉利（Yuval Noah Harari）的预言。他是今年畅销书《未来简史》的作者，近日在中国的演讲更是吸引了一大批听者。按其说法，在未来几十年，司机、律师、记者和教师等职业都将一一消失，随着算法将人类挤出就业市场，财富和权力可能会集中在拥有强大算法的极少数精英手中。

赫拉利的专业是历史学，但极其擅长宏大历史叙事，试图综合各种学科的知识，在专业主义盛行的当下尤为耀眼。然而，他很可能对科学发展缺乏基本理解，在《经济学人》等杂志看来，他习惯用科学来标榜自己，比如用生物技术和纳米技术等词汇，但实际上没有严肃地对这些话题进行展开。

▲以色列历史学家尤瓦尔·赫拉利的《未来简史》与《人类简史》都成为现象级畅销书

我更感兴趣的是，他的未来预言以一种夸张且高超的渲染手法触及到了我们的紧张和恐惧。归纳起来，有两种恐惧，一是担忧生计安全（失业），一是担忧在下一波社会分层中被淘汰（贫富差距）。至于人们已显现出来的第三种恐惧，既担忧个人自由意志被威胁，在赫拉利看来并不是问题，原因在于生物技术就摧毁近代以来确立的自由意志。但只要看看人类走过的历史，这很可能就只是一种错觉，也低估了个人拒绝被机械监控和统一管理的意愿。

“生计安全”和“社会分层”两种恐惧，在近代以来任何一个重大技术变革时期都出现过，历史就是这样走过来的。更重要的问题是，在大数据AI将要到来时，我们是否能守卫住个体的完整性、丰富性和自由意志，这一切将决定有怎样的政治文化及其制度安排。坏的结果可能是，大数据AI及其数据主义，将像二十世纪的“现代性”一样，既能带来更美好的生活，但也使“纳粹大屠杀”那样的大规模灾难成为可能。

▍失业？

前不久看到消息说“信审员”已成中国金融领域第一批被驱赶者。驱赶他们的，是人工智能。然而，只需往回四五年，银行贷款的申请材料，仍是信审员操作、核实和评定，是否放贷的（额度范围内）衡量权也由他们掌握。这一职业见证了中国民营企业和市场信用制度的发展。

时过境迁，他们在技术变革洪流中败给了大数据及其算法，职业生涯也将结束，有的更新知识往上爬升做数据算法，有的往下滑到网络数据公司做数据打杂员，有的失业不得不考虑换做其他工作。我问在北京中国农业银行上班的硕士同学，信审员的境遇是否真有新闻所说的那样艰难。“银行在未来，将不再是一个组织，而是一种行为。”这是他的回复。我们正在目睹着一个职业的下坠，直至其消失，而其曾一度风光无限。

技术变革的力量可见一斑。但实际上，人工智能在众声喧嚣中走了半个世纪，直到今天，它仍处于一种低级的“弱智”状态，发展速度从未跟上企业家和文艺创作者的未来预言。

在他们看来，记者、编辑、医生、教师乃至律师都将在技术变革面前消失，近年来备受关注的以色列怪才尤瓦尔·赫拉利在其《未来简史》中也有同样的预言，且判断在未来几十年，将有一个庞大的、被劳动分工淘汰的“无用阶层”。过去几十年，从《异形》系列到《机器人瓦力》，再到《机器人之恋》，人工智能在科幻电影中甚至被赋予了情感能力，塑造了我们对其超智能的错觉。只不过，这样一些商业想象或历史演绎猜测，与“阿尔法狗”打败围棋冠军手一样，距离当下普通人的真实生活体验相差极远。

但是现在，我们确实都看到了一种挑战，像信审员这样头顶光辉的职业被淘汰已变成现实。人工智能时代是否真的来了？我刚写这篇文章，便看到新闻消息称“阿里无人超市”开张火爆，说“柜员”这一职业要消失的声音不绝于耳。

照此发展，将有职业一一被挤压。制造业和零售商业首当其冲，尤其是流水线上的职业，比如产业工人和柜员，随即波及到那些被认为需要更长培训时间、更高教育程度和更强创造性的职业，即便是需要想象力的社会科学研究、人文艺术创作领域，都可能被冲击。少数人掌握编程和数据处理权限，剩下的人将被劳动分工重组。

我也有生计安全的担忧，听闻信审员失业，心里头一紧，害怕哪天轮到自己。终然不失业，工资报酬也可能大降。然而，转眼一想，将眼界拉大，整个人类不就是在技术不断变革中走过来的吗？

蒸汽机出现了，马车木工和马夫等职业消失，但司机作为一种职业起来，有的消失，有的起来，而甚至在可想象的未来，挑战也只是挤压职业，而不太可能是所谓“消灭”——原因在于影响社会发展的不单是技术。围绕在人工智能周围的那些想象和预言，显然低估了人类分工的调试能力。

▍谁会成为无用阶层

千百年来，技术变革除了改变职业和劳动分工，也的确在重塑政治与经济秩序。这是第二种恐慌。

两百年前，在工业时代即将到来前夕，是否拥有、拥有多少生产资料，促成两种群体即所谓“资本家”和“工人”的隔阂。按照经济学史家卡尔·波兰尼的说法，这样的生产资料建基于商品化，且在欧洲市场经济的兴起过程中有一种顺序，先是土地、资本，随即才是劳动力，被习惯性称作市场经济的三大要素。

如果等到了较高级“智能”的人工智能，我们的政治与经济秩序将出现怎样的变化？划分和区隔人群的，将可能增加一种要素即数据。是否掌握数据及其多寡，成了衡量拥有生产资料实力的标准。与土地、资本和劳动力不同，谁都可能拥有一些，数据这种要素很难被分割，只可能掌握在极少数人（富有者）手中，而于其他人而言，只不过是数据沧海其中一粒的生产者（普通大众），或是成为数据分析员或工程师（处于中层的专业技术师）。

于是，这些年才有了另外一些担忧。是否会扩大阶层差距？数据产业是否会垄断土地、资本乃至劳动力？剩下的所谓“无用阶层”怎样办？

我们害怕在落伍中被淘汰、被碾压。这种害怕，跟担忧生计安全一样，可能围绕在每个人身上，恐慌被“在人工智能时代，每个人都可能失业”这样的预言扩大，继而每个人担心生计，也担心在阶层分化中被垫底，看不到未来且充满了不确定性。

阶层差距只是一个古今中外都存在的现象。历史上有过均等化的乌托邦实验，但无可奈何花落去，都被宣告失败。更重要的问题，并非阶层差距，而在于阶层流动是否平等，是否自由，及其渠道是否畅通，汉语中所谓“能者上，庸者下”就有这样的意思，而这一点并不会随着技术变革而改变。智能时代到来了，也是一样，阶层分化的方式和具体格局可能有不同，但不能将阶层流动的问题归因于技术变革，而仍在于政治和经济秩序及其制度安排。

与此同时，近年在各种场合常听到一些建言。有的是安慰，比如说人工智能不具备情感能力，只是工具罢了，人类毕竟有丰富的内心世界；有的是劝导，比如说不要停止学习知识的步伐，否则被历史潮流淘汰。这些正是在回应技术变革带来的紧张。现在甚至可以说，我们感到恐慌本身已是一种适应。

恐惧生计安全，恐惧在社会分层中被淘汰，但现在的问题是，人工智能是否有其他层面的影响引起恐惧？

▍诸神和理性之后，是什么

二十世纪有一部反乌托邦作品叫《我们》，作者是前苏联作家扎米亚京。他采用笔记形式，假借生活在未来世界中的一个模范公民之口，戏拟了一个高度数字化、采用集中统一管理的“联众国”中各色人等的生活和心态。在这个攀上了“人类文明的最高峰”的联众国，所有人一律被冠以数字为名，主人公就叫“D-503号”。

尽管它与《美丽新世界》及《1984》一起被称作“反乌托邦三部曲”，且是第一部，具有历史的超前性，但知名度远不及后两部。不知到了人工智能时期，它是否会更受欢迎。

▲[苏联]叶甫盖尼·扎米亚京/范国恩/译林出版社/2013

这样推测的原因是在于，在国内外，人工智能是否会统治人类都渐成一个话题。科幻电影中的那种“统治”，单就现在看来，显然只是一种遥不可及的无根想象。然而，即便是在“弱智”人工智能刚到来时，是否会丧失自由意志而被统治的恐惧也悠然而生，尤其是无处不在的数据收集和高密度管理。这是第三种恐惧。

众所周知，前些年就已有“数据怎样保护个人隐私”的争议，有“电脑比你更懂你自己”的紧张，但这些大概都不是最深的恐慌。

最深的恐慌很可能涉及到这样一种不确定，即不知人工智能将可能塑造怎样的思维或观念。倒不是说技术革命能直接塑造一种思维或观念出来——它往往被认为是价值中立——而是在于，与它同行的“同时代人”据此所形成的思维方式，继而影响乃至决定整个社会的秩序。

曾经的工业时代是“理性”。诸神退位，“理性”爬升并占据主导地位，改变了人与自然和宗教的关系，确定人的价值至上，其他都是为人而存在的工具。到了“后工业主义”时期，才有一些稍微松动。

“理性”解放了人类，于欧洲而言，迎来了相对于中世纪更平等、更自由、更博爱的现实生活。可是，按照齐格蒙特·鲍曼的说法，理性也有其膨胀的时刻，从工具到管理模式，都精于计算、安排和设计，资源的动员能力已大到可以顺理成章发起一场纳粹大屠杀。

同样是现代性，同样是理性，何以有这样的差别？有一句被滥用的话说科技是一把双刃剑，就看握在谁的手上，但这只是一种非常粗糙的理解。回答这一困惑前，不妨看看当下的技术变革。

所谓当下，数据的收集、分析和综合能力越来越强，算法越来越精准，即便只是处于“弱智”的人工智能时代。制造业、商业、交通、医学乃至司法领域，被称作“大数据AI”的人工智能的确彰显了它的优势，但也影响了我们对人及其价值的认识。

按照二十世纪奥地利经济学派的重要人物路德维希·米塞斯的说法，一个人是完整的且有其复杂、自由意志，他的想法，是不可能被数据精准统计，甚至有时连他也不清楚自己的想法，即便知晓也不一定能准确表达出来。他与斯卡·兰格因此在二十世纪三十年代有一场关于计划经济的辩论，在他（及其学生弗里德里希·哈耶克）看来，并不存在一个组织或机构能准确收集人们的信息，计划思维不可行，一旦推行就可能出错乃至带来灾难。

然而，米塞斯在美国经济学的位置其实颇为边缘，《米塞斯大传》作者约尔格·许尔斯曼的判断是，他逝世时差点被世人遗忘，直至二十世纪九十年代才了明显改变，其背景是冷战结束，苏联的计划经济模式在全世界范围内被宣告失败。只不过，古典主义自由经济与（新旧）计划思维两种认识论的战火一直未停止，持续到现在。

米塞斯很可能低估了理性和统计的能耐，对数据类型也未有区别，但他的确提出了一点令人深思，即对人的完整性、复杂性及其自由意志的敬畏。

随着数据收集、分析和综合的发展，随着人工智能的演变，越来越看到人们有一种担忧。工业时代自信的是能掌握自然和世俗世界，等到人工智能时代到来，所自信的将是掌握人的信息，以及计划人的行为，而这样的自信很可能会促成一种高密度的计划和管理体统。

有人说，数据化会否定人的多元性，我觉得并不是这样，数据的前提恰恰是多元性的存在，如果都一致了，也就不需数据统计了。真正值得警惕的，是对掌握和计划人的自信变膨胀。

再回到刚才提出的一个问题，现代性及其“理性”何以会有两幅迥异的面孔？答案的确不是简单的科技是一把双刃剑。更重要的问题是，彼此彼地（或此时此地）为什么是这一刃而非那一刃？“理性”思维还在，像上世纪那样的纳粹大屠杀为什么可以没有了？国际环境、政治领袖和经济状况，它们的改变都可能是原因。

然而，说到底还是人们具有怎样的常识观念，更平等、更自由和更博爱的观念，才更可能守卫人性中的善，更可能明白个人与国家与历史的关系。它们才具有最日常最基础的抵抗“恶”的能力。

跟历史上的大多数技术变革一样，人工智能毕竟是为了更好的生活。如果在人工智能到来前夕，人类没有形成或坚持那些重要的常识，就难以守卫自己的完整性和自由意志，“大数据AI”征途上的一切膨胀都有可能且所向披靡。职业分工被改变也好，社会分层被重塑也罢，生计和被淘汰的恐惧在历史上并不是特例，但倘若在技术变革巨轮碾来时，我们在个人自由意志上尚未做好准备，数据计划思维恣意膨胀，所要承担的压力可能并不亚于失业，也不亚于在社会分层中被淘汰。

【注】本文原标题为《十亿人失业的预言并不可怕》

【作者简介】 

罗东 | 腾讯·大家专栏作者，目前就职于新京报·书评周刊。

【精华推荐】

 ·END· 

大家 ∣ 思想流经之地

 微信ID：ipress  

洞见 · 价值 · 美感

※本微信号内容均为腾讯《大家》独家稿件，未经授权转载将追究法律责任，版权合作请联系[e-mail]