大数据、赛博格和我们的未来：《人类简史》作者的灵魂拷问
译者：张一苇
编辑：孙衍博
免责声明：本文内容仅代表原作者观点，不代表智堡的立场和观点。
本文系威斯康辛公共电台 (Wisconsin Public Radio) 全国广播节目“据我们所知” (To the Best of Our Knowledge) 执行制片人Steve Paulson，与《人类简史》(Sapiens) 作者、以色列历史学家尤瓦尔·诺瓦·赫拉利 (Yuval Noah Harari) 的对谈实录。
在他的新书《21世纪的21个教训》(21 Lessons for the 21st Century) 中，赫拉利提供了对从新技术到政治和宗教等一切事物的一揽子预测。虽然他已成为硅谷的宠儿，但赫拉利公开批评Facebook和其他科技公司利用我们个人数据的行径，并担心在线互动正在取代实际的面对面交流。书中大篇幅阐述了人工智能可能带来的革命性影响。如果电脑算法比你更了解你自己，那么还有自由意志存在的空间吗？我们的政治又会走向何方？
赫拉利是一个语速飞快的对话者，似乎对一切都有自己的看法。他非常自信，显然很享受自己所扮演的挑衅者的角色。对谈一开始，我们均认同当下的历史节点有着非常强的违和感。我们身处革命的前夜，这场即将改变全人类的革命要么为我们带来长久的好处，要么带来空前的破坏——而最终的结局究竟是哪一种尚不明朗。赫拉利说，“这是有史以来第一次，我们对30年后的世界将会是什么模样毫无概念。”
Homo Machina，“机器之人”：赫拉利说，我们不仅不再害怕机器，我们正变成机器的一部分：“我们不再搜索信息；现在大家只会Google一下。我们愈发信赖Google的算法，而在这过程中丧失了独立搜索信息的能力。” （图源：Devina Heriyanto/The Jakarta Post）
记者：
当下的历史节点究竟有何不同？
不同的是技术变革的步伐，特别是人工智能 (artificial intelligence) 和生物工程 (bioengineering) 的双重革命。 它们让“黑”进人类和其他生物成为可能 (译者注：此处用词为"hack"，参考近年来风靡的“生物黑客” biohacking 概念，指利用科技打破人类自身限制，且常伴有对现有世俗传统、道德准则的挑衅与违逆) ，然后对其进行重新设计并创造新的生命形式。
记者：
这些科技能在多大程度上重新定义我们自身？
影响将非常深远，远超我们的想象。它甚至可以改变我们的想象力。如果人们的想象力太过局限，无法想到新的可能性，我们只消改进想象力本身。数十亿年来，所有生命都局限于有机领域；不管是变形虫、霸王龙、椰子、黄瓜还是智人，无出其右。人类都由有机化合物组成，并遵守有机生物化学的法则。但现在我们即将突破这个有限的有机领域，并开始将有机生命和无机机器人结合起来，创造出赛博格 (译者注："Cyborg"，也译作“改造人”，如前所述即介于有机体与无机物构成的机器之间、强调思考与动作由有机体控制的融合个体)。
记者：
在你看来新的赛博格会带来哪些问题？
利用无机的仿生系统增强人体免疫系统的实验已经开始。数以百万计的微型纳米机器人和传感器监测人体内发生的事情。他们可以发现癌症或某些传染病的征兆，并为保护人体健康与这些危险做斗争。而这套系统不仅可以监控患病出错的身体部位；它还可以监控人的情绪，情感和想法。这意味着一套外部系统可能比本人更了解自己。有些人坚持多年接受心理疏导，以更好地理解自己的情绪；而这套系统，无论是属于Google还是亚马逊还是政府，能以人自身和心理治疗师都无可比拟的方式监控人的情绪。
记者：
你的意思是电脑算法可以提取我们自己都不知晓的个人数据？
是的。恐惧、愤怒、爱情，或任何人类的情感，最终都不过是一种生物化学过程。诊断流感的方式，同样可以用来诊断愤怒。也许你会问某人，“你为什么要生气？你有什么可气的？”他们会答道，“我没对任何事生气，你想说什么？”但是这套外部系统不需要发问。它可以监测你的心脏，你的大脑，你的血压。它可以量表一个人愤怒的程度，知道你现在在1到10的量表上处在6.8的水平上。将此与每天24小时收集的大量数据相结合，可以提供史上最好的医保服务，或者成为史上最恶的独裁政权的根基。
记者：
在书中你写道，“谁拥有数据谁就拥有未来”。你想表达什么样的涵义？
历史上最重要的资源曾一度是土地，随后机器又占据上风。而现在，数据是最重要的资源。政治正在成为争夺对数据控制权的斗争，而未来属于那些垄断数据的人。我们这个时代最大的政治问题之一是，该如何监管数据的所有权？
记者：
这当中最核心的恐惧是什么？
这样的未来，意味着外部系统可以比你本人更了解你自己。它可以预测您的选择和决定。它可以操纵你的情绪，它可以卖给你任何东西，无论是一样产品还是一位政治家。
记者：
那我们为什么不干脆把自己交给电脑呢？让他们为我们做决定。也许这样我们会更幸福。
在某些情况下，这确实会是一个非常好的主意。一切的开端，始于谁在驾驶汽车上更值得信任。目前，全球每年有超过100万人死于交通事故。这一数字比死于战争、犯罪和恐怖主义的人数还要多。而几乎所有的交通事故，都是因为人类做出了错误的决定。如果我们全盘切换，让算法即电脑来驾驶车辆，虽然并不能保证交通事故会减少到零，但它至少可以避免90％的交通事故，从而挽救数十万人的生命。
记者：
那什么时候开始对算法赋权变成了坏主意呢？
当你开始给算法赋权，让它来替你决定学习什么，住在哪里，和谁结婚，投票给谁的时候，这就成了个坏主意。算法提出建议，而是否遵循建议本应由你自己来决定。在很多情况下，人们会遵循建议，因为他们从经验中认识到算法会做出更好的选择。算法的建议可能永远不会是完美的，但完美并不是必须的。算法只需做出平均而言，比人类更好的决定即可。这并非不可能，因为人类经常犯下可怕的错误，即使是在他们生命中最重要的决定上，亦是如此。但这并非未来的场景。我们已经为算法赋权，让其决定自己应该观看哪些电影、购买哪些书籍；但是随着人们对算法的信任与日俱增，他们正在失去自己做决定的能力。在遵循Google地图建议好几年后，你将不再有前往目的地的方向感。你不再了解自己生活的城市。因此，即使理论上你仍然拥有权威，但在实践中，这种权威一直在向算法转移。
记者：
关于人工智能，我们常听到的威胁论是机器人最终将统治人类。他们将获得独立思考的能力，并战胜我们成为主人。但你所阐述的却是另外一副图景。你认为我们自己会向机器屈服。
是的。我们会将权威拱手相让。在大多数科幻电影中，机器人会重塑自我，并试图杀死人类；人类必须反击，并摧毁机器人。这是一个让人非常舒心的神话故事：它告诉人类，没有谁能比你做得更好；如果你过于依赖机器人，事情将以灾难告终。然而远比这可怕的情况是，机器人将做出比我们更好的决策。随之而来的问题，自然就成了“人类活在世上的意义究竟是什么？”几千年来，在我们眼中所谓的人类生命，就是一出由无数决策谱写而成的话剧；生命是一条有许多分叉路口的道路，每隔几天、几个月或几年，人就得做出各种各样的决定。
记者：
这是我们道德体系的根基。在一定程度上宗教也是建立在这一基础上的。
一点没错。你做出善的决定，就能去天堂。你做出恶的决定，就得下地狱。这就是从莎士比亚戏剧到傻里傻气的好莱坞喜剧的一切所要表达的中心意旨。他们应该和谁结婚？我应该发动战争还是促进和平？如果哈姆雷特只消拿出他的智能手机，开口询问Siri该怎么做，我们对人性的观念又会发生什么变化？
记者：
这一技术转变将如何影响政治体制？主流的政治意识形态，自由民主，明显正面临着威胁。
最近发生的一切，都是因为我们缺乏一个好故事，来理解我们前方的未来。即使我们中的一些人仍然执着于自由民主 (liberal democracy) 的意识形态，它也同样失去了阐释的力量。在20世纪90年代和21世纪初，它对我们前进的方向做了一些强而有力的预言。自由民主和自由市场资本主义将遍及全世界，所有国家都将变得和美国或丹麦一样。但现在，自由主义故事对未来不再有明确的愿景；没有人对未来有明确的愿景。左派和右派都没有对2050年人类和世界将会是什么模样，提出任何有意义的愿景。即使那些笃信自由主义故事并将其作为道德指向标的人，也不能再假装那些预言真的会实现。世界并不像自由主义故事所预期的那样运转。特别是那些笃信自由民主的人，根本不明白到底发生了什么。
记者：
我就不明白到底发生了什么。自由民主本来似乎是成功的模板，然而在很多国家着似乎行不通。
是的。 随着越来越多的专制领导人执掌大权，许多民主国家都在苦苦挣扎。但应该强调的是，在自由民主和自由主义的霸权下，过去30年来的世界处在有史以来的最佳状态，至少对人类而言如此。在过去30年中，世界从未如此繁荣和平和。因此，自由主义体系在很大程度上已经实现了它的目标。但是现在人们正在对它失去信心；其中一个主要原因是新技术的兴起，意味着更多的人会被抛下。这不仅仅出于技术的革新，还出于新的科学见解。自由主义的故事基于自由意志 (free will) 的理想概念，即个人的自由意志是这世界上权威的最终来源。但科学现在告诉我们，并不存在所谓的自由意志；这不过是一个神话。
记者：
这仍是个极富争议的话题。很多科学家和哲学家并不愿意放弃自由意志的概念。
在私人个体的层面上，确实可能存在某种意义上的“自由意志”。但是，如果你去看看科学期刊、文章和实验，科学甚至都不了解自由意志的涵义。在大自然当中，我们从未发现所谓“自由”的过程。我们只知道自然界有两种类型的过程——确定性过程和随机过程。两者的结合为我们提供了概率过程。但随机性不是自由，概率也不是自由。人们当然有意志，有欲望，也一直在做出选择。但我们不能自由选择自己的欲望。我们不能自由选择自己意志的所在。我们的欲望受到自然和文化的影响，其影响的方式超出了个体的理解和控制。
记者：
你的意思是这种个人控制的失去正在加速民主的崩溃？
好吧，有两件事同时在发生。首先，我们已经具备了“黑”进人类的能力。如果你笃信自由意志的话，你会说这是不可能的：没有人能比我更了解我自己；没有人可以预测我的选择或操纵我的欲望，因为它们反映了我的自由意志和自由精神。然而这样一来，你就成了最容易被“黑”和被操纵的人。
记者：
你是指那些利用Facebook操纵政治舆论的团体吗？
那不过是冰山一角；或者是令世人如梦初醒的契机。是的，剑桥分析 (Cambridge Analytica) 和所有这些公司和机器人所作的事情，其实就是“黑”进人类。他们了解你所有的仇恨、恐惧和偏见。而一旦掌握了某个特定人的偏见和所有的弱点，就可以利用他。
记者：
恐惧与仇恨都属于人最原始的情感。你是说只要能够煽动原始情感，就可以控制政治纷争的走向吗？
是。如果你的意图是破坏开展有意义公众对话的能力，你就会去发现人们的恐惧和仇恨，并放大它们。而且你得以个人为单位量身定做；你不能向每个人展示同样的故事，因为不同的人有不同的弱点。所以也许他们发现，你对移民存有内在的偏见；他们就会向您展示一条关于移民团伙强奸当地妇女的假新闻。他们知道你会相信这个故事，因为你本来就具有这种偏见。但是你的邻居，她怀着非常不同的偏见。她赞成移民；但她的偏见是认为所有反对移民的人都是法西斯主义者，是种族主义的白痴；所以他们向她展示了一条关于一群杀害移民的右翼狂热分子的不同故事。她会相信这个故事，就像你相信有关移民强奸当地妇女的故事一样容易。它刺激着她已有的恐惧、仇恨和弱点。当然，如果你笃信人们是完全出于自由意志做出决定，你会说这是不可能的。但这样一来，你就很容易成为这种操纵的牺牲品。
记者：
你刚刚说有两件事在加速民主的崩溃。第二件事是什么？
第二件事是我们的未来正将越来越多的人抛下。当今世界上，尤其是在美国，存在的种种怨恨，其对象并非当下的困难。这些怨恨，来自于那些展望未来却发现未来没有自己一席之地的人。20世纪许多政治和社会斗争的中心是剥削——精英阶级对工人阶级的剥削。但在21世纪，最大的恐惧不再是精英们剥削我们；最大的恐惧是精英们不再需要我们；我们正变得无关紧要。在很大程度上，这种恐惧是合理的。对经济、政治制度而言，许多人将变得无关紧要。所以这些人试图在为时已晚之前，行使他们的政治权力。
记者：
我们也可以直接断网。
我们绝对可以对新技术实施监管。我们可以确保它们用于善良而非邪恶的目的。我们需要确保大数据算法为我们每个个人服务，而不仅仅是为企业或政府的利益服务。目前，我们所见的人工智能系统更多被用于监控为政府和企业服务的个人。但是，技术本身也可以被用来监控企业和政府为个人服务。大多数尝试都是为了让政府或企业有能力监控我们；但在扭转监控方向上，并不存在技术层面的问题。
记者：
对于我们的未来，你是个乐观主义者还是个悲观主义者？
我将用三条简单的陈述总结我对世界的看法。
事态比以往任何时候都好。事态仍然很糟糕。事态会变得更糟。综合起来看这似乎还是有点乐观，因为如果你意识到当下比以往更好，这就意味着我们可以让它们变得更好。我们并没有陷入以往历史周而复始的悲惨境地。我们可以采取一些措施来改善当前地状况。但更好的未来并不是必然的。我并不相信科学技术必然会创造一个更美好的世界。科学技术只能保证一件事，而那就是力量。人类将变得更加强大。但是该如何运用这力量？我们有各种选择。如果你回顾历史，有时人们会非常明智地运用自己的力量，但大多数时候他们都会滥用手中的力量。人类历史上最重要的驱动力之一，是人类的愚蠢。我们永远不应该低估人类的愚蠢。当人类永无止境的愚蠢，与人类即将在21世纪获得的惊人新力量结合起来时，一场灾难的爆发就离我们不远了。
来源：Paulson, Steve, Yuval Noah Harari Is Worried About Our Souls, Nautilus - Ideas/ Technology, Dec. 27th 2018
往期精选
▼▼▼
本文来自，长按二维码关注
如果觉得文章还不错，请点击“好看”
路演请联系邮箱mikkozhu@wisburg.com
智堡|Wisburg