人类将被人工智能控制，现代政治却对此无动于衷？

撰稿丨宗祁

全文共6047字，阅读大约需要20分钟

如今大多数国家所采用的代议制民主，大部分公民还是无法参与到实际的政治决策中，并且，也并非每个人都有闲心去关心、了解政治，许多人选择放弃投票权或用少量时间了解片面信息之后就去投票。在未来，也许民主可以更灵活，比如，人们可以投票参与更多具体的决策，而不是把权力让渡给某一个人，也可以把投票权委托给更了解某项事宜的人或团体，也就是所谓的“流动民主”。

在动画作品《心理测量者》中，当时的社会能分析出每个人未来能从事何种职业，从而对他们“因材施教”，同时，也能分析出哪些人会成为罪犯，然后未雨绸缪，对其进行铲除。这样的社会“愿景”，也许在我们的未来也能通过算法实现。如今，我们的搜索历史、购物历史、甚至运动和健康数据，全都被各大平台收集、分析。针对每个人不同喜好的信息被推送到我们面前。在算法面前，我们没有秘密，也许网络和机器比我们的伴侣还要了解我们。

这也意味着，科技公司和技术精英所拥有的权力空前巨大。如果网络账号被封禁，我们现实中的生活也会受很大影响；我们购买的网络服务可能被随意更改，比如增加广告、需要额外付费；我们的数据被贩卖等等。《算法的力量：人类如何共同生存》的作者杰米·萨斯坎德指出，过去百年，技术在爆炸增长，但政治却依旧“古典”，面向未来社会的规范、法律、哲学思考十分稀缺，科幻小说都要比现有的政治学、政治哲学对思考未来有用得多。杰米同时着眼于人文和科学，为现在和未来的人类提出并尝试回答这样的问题：在越来越被人工智能和算法“控制”的社会中，我们如何保证实践自由、公正的社会理念？我们要防范什么？未来的政治有哪些更多的可能性？

杰米·萨斯坎德（Jamie Susskind），毕业于牛津大学，英国学者、作家和执业大律师，曾在哈佛大学等相关研究机构从事研究工作。他还是一位广受欢迎的演讲者，曾应邀在谷歌、微软、哈佛大学、斯坦福大学、普林斯顿大学、伦敦政治经济学院和英国国家学术院等众多机构就数字技术及 其对政治、经济和社会的影响发表演说。

《算法的力量：人类如何共同生存？》

[英] 杰米·萨斯坎德

理想国|北京日报出版社 2022年2月版

▌技术的现在与未来

近日，谷歌开发的AI绘图软件Disco Diffusion的智能和精美引起了许多人的关注，有些人在畅想，也许未来简单的商业设计、插图需求可以直接交由AI来完成。此前，最受关注的人工智能技术可能是自动驾驶，它已经在较大范围内被使用，虽然一度受到过很多争议，但许多人已经渐渐习惯了在某些时刻“解放双手”，将驾驶交给汽车本身。

AI绘图

人工智能领域（AI）兴起于1943年，如今，它是最炙手可热、也是最重要的研究领域之一。它在语言识别、翻译、撰写新闻或收益报告等方面的技术已经渐渐被日常应用，渗透到医疗、法律、体育、金融等各个领域。在很多方面，AI甚至超过了人类专业人员。在各种棋类比赛中，人工智能已经击败了最杰出的人类。牛津大学的研究者们发明了一种准确率高达93%的人工智能“读唇语”系统，相比之下，专业唇语翻译人员的正确率只有60%。虽然很多技术现在看起来还只是人们的畅想，比如，机器人而不是医生给我们做外科手术，但人工智能确实正在飞快地融入或替换着我们的生活。

AlphaGo Master以3:0的净胜分击败了柯洁

当前人工智能最重要的子领域是机器学习。如果AI已经可以超越人类，那把“创造新的AI”这件事交给AI自身来做，似乎也没什么不合理的。杰米·萨斯坎德写道：“在某个特定的时刻后，‘我们不再需要为计算机编程’，而是靠‘它们自己给自己编程’。”另一个很容易被人们忽视的技术是“算力”——计算机芯片处理数据的能力。“如今，普通智能手机都比当年送阿姆斯特朗上月球的阿波罗导航计算机的算力更强。”

捕捉、记录和储存数据的技术也在增强。“如果把谷歌一天中处理的数据印成书，其高度要大于地球与月球间距离的一半。”《算法的力量》中记录道，奥地利隐私维权人士Max Schrems要求查看Facebook存储的有关他个人的数据，结果得到了一份有1222页的文件，其中包括他早已在Facebook平台删除的信息。

网站和设备每天都在取得和存储着海量的信息，但不仅如此，真实存在的物品也在记录和存储你的信息，比如汽车传感器，它上传汽车的性能数据给制造商；GPS追踪时刻记录着我们的行踪。“人类的动作、话语、行为、关系、情感和信念将越来越多地留下永久或半永久的数字标记。”

今天，大多数人已经接受自己的网络足迹在被各大购物、音乐、个性化推荐网站所监控这个无法抵抗的事实，但在未来，当我们的生活越来越与人工智能、算法结合，很可能我们会受到全方位的“监控”。想象我们的“智能冰箱”在我们深夜开门拿蛋糕时自动上锁，或者对我们大喊“别吃了！”智能窗帘自动调节室内的光线。甚至，机器可以监测到我们的情绪，哪种眼神蕴含着感情，通过分析动作、音调，可以确定两个人间是什么关系等等。

在电影《银翼杀手》的小说原型《仿生人会梦见电子羊吗》中，人们通过服用药物来控制或达到不同的情绪，拒绝服药而选择自己调节情绪的人反倒会被看作异类。如果技术可以为我们选择最适合我们自己的光线、食物、运动、甚至交往对象，那我们是否还需要最“自我”进行反思和把控？我们是否还能产生机器分配给我们的以外的需求？

Hapbee公司的广告：“选择你的情绪”——“情绪控制”科技正在被研究和尝试。

▌掌握技术，就是掌握权力，技术即政治

算法和技术正在飞快地融入和改变我们的生活，但却极少有对它们的限制和管控，这是十分危险的。

首先，技术本身并不具有道德，它忠实地呈现社会上最大多数与其互动过的人的面貌，比如，在谷歌的搜索框输入“同性恋”，后面会自动接上“为什么声音总是很奇怪”。这并非因为谷歌搜索是歧视同性恋的，而是因为很多对同性恋有偏见的人搜索了这个问题，谷歌的算法自动把高频搜索问题呈现给所有用户。

技术不会考虑道德或教化的需要，同时，它也不会对信息进行筛选。以往，权威的媒体和“专业从事过滤工作”的记者、作家、编辑几乎决定着大众会收到何种信息，越是知名、权威的平台，其内容一般越是优质、专业、保证准确。但如今，根据算法推荐呈现给人们的信息往往只遵循“流量”的规律：点赞最多的消息、评论最多的消息往往被更多人看到。我们已经很熟悉通过“引战”吸引流量的这种方式。而这已经影响了政治，在政治宣传中，政治领导人往往不在意一些言论是否“反智”、是否蕴含着错误，只要它们足够有煽动力，就会被传播开来。

特朗普曾被一些人调侃“推特治国”

在一些重大自然或人为灾害事件中，虽然网络允许我们收到许多一手信息，但我们也真切地体会到了专业调查记者的筛选和可信的一手报道的重要。

此外，算法根据我们的“喜好”进行推送的特质让人们愈加封闭在相同观点的小圈子里，用网络用语来说，就是“圈地自萌”。也造成与主流观点相悖的言论越来越难以被发出。“如果你知道批评某位政客会让你泡着的酒吧陷入可怕的沉默，或者在社交媒体上引发一场‘推特风暴’，对你进行人身攻击，那么你在发表批评意见时恐怕就会三思而后行了。”最后，如果利用算法对某些信息和关键字进行屏蔽和封禁，其影响也将是巨大的。“人们不可能对他们不知道的事情感到气愤。”

在剧集《黑镜》中，有一种设备让孩子没办法看到和听到暴力的场面和言语，产生了负面的效果。我们的下一代成长的环境已经是被“删选”过的环境了吗？

算法正在用筛选信息的方式影响着我们（或下一代）认识世界的方法，但这可能只是它初步的影响。在未来，我们可能像编程好的NPC（游戏中行动和话语都被设定好的角色）一样，只能在一定范围内作出行动选择。

如果想向朋友分享一首歌或一个电视剧，但朋友没有网站会员，就无法播放它；汽车在自动驾驶模式下可能被设定为无法超速行驶；书中举例道，2009年，奥巴马将25部美国经典电影送给英国首相戈登.布朗，但布朗回到伦敦后却发现这些电影无法在英国DVD机上播放：“禁止播放的命令已由其制造商和发行商编成代码写到DVD中，以保护其商业利益，并实施版权法赋予的权力，这被称为数字权限管理（DRM）”——世界上最有权势的两个人也无法突破算法设定的规则。

这在今天看起来没什么，我们可以选择手动驾驶，可以找到其他音乐、视频网站等等。但算法的“强制性”已经初步显现出来：我们无法作出在规定范围之外的选择。“数字技术的关键是，它只能根据编写它的代码操作。”它与法律不同，人们可以打破法律（虽然要承担被惩罚的风险），但大多数人无法打破代码。

古代社会用重刑威慑人们，而进入现代，“惩罚的‘必然性’已经取代了惩罚的强度”，随着国家执法机关的控制力的增强，人们知道犯法大概率会被抓，因此避免违法，而在未来，由代码参与的法律，“将迫使人类无法违反法律，而非简单地事后惩罚”。

《心理测量者》中的枪，只有面对“犯罪数值”在非正常范围内的人时，才能解锁并开枪。

最后，以往只有政府才能强迫我们做事，而现在，各种网络平台都在强迫我们：如果我们不点击“同意服务条款”，就无法使用它；平台可以贩卖它搜集到的我们的个人数据；可以更改它的服务，比如，声称永无广告的网站忽然加入了广告，或本来有会员就可以看电影的网站，忽然要求额外付费才能看某些电影；甚至，平台可以封禁某些账号。人们对此无法抗议，只能选择被动接受，或不再使用该软件。

如今，政府可以要求一些公司提供某些用户的资料，“2011年，谷歌收到了1万多份政府索取资料的请求，并履行了其中的93%。”网站也可以监管恐怖分子、恋童癖的活动，并主动报告。在未来，当算法更加融入我们的生活，警察是否能直接取得犯罪分子的智能门锁密码？如果我们的朋友犯了重罪，我们是否会因为与他的聊天记录而被“盯上”？

“在whatsapp上聊天的人只是在聊天，而不是什么‘网络聊天’，在亚马逊上购买商品就只是在购物，而不是什么‘电子商务’……在2000年，你还可以通过注销或关闭程序离开代码帝国，而在数字生活世界中，这种情况基本就不存在了。”

你正在被监视。

▌面向未来的政治

杰米·萨斯坎德认为，虽然我们的社会中技术呈爆炸式增长，但人文学科，尤其是政治理论的进步却滞后得多。那些掌握技术的精英和资本，正在掌握着前所未有的巨大的权力。我们的政治组织架构应该如何更好地适应技术的发展？

更切实也更紧要的是，反对大型科技公司的垄断。保证人们对使用哪个平台可以有多种选择。“维护自由的最佳方式是确保人们可以根据自己喜好的代码在不同的系统之间移动。”但，如今的网络平台十分依靠用户数量：如果只有10个人使用Facebook，那这个平台将一文不值。平台建立初期的用户积累非常重要和艰难，从而让垄断更加容易。“在过去二十年，近四分之三的行业集中度上升……近80%的手机社交媒体流量都是在Facebook旗下的平台运行（包括Instagram、WhatsApp等），谷歌的移动软件Android占据了智能手机逾四分之三的市场份额。Alphabet（谷歌母公司）、亚马逊和Facebook三家公司的总价值竟与加拿大的国民生产总值大体相当。”

大型科技公司所持的现金。图中前三者持有美国23%的现金。

资本会不断创造新的资本，积累自身，行业巨头手中有的资源让它们有多种手段去巩固自己的地位。“2017年欧盟对谷歌公司处以24亿欧元的罚款，以惩罚其操纵搜索结果用于推广自己而非他人的购物比较服务。”《反垄断法》亟待面向科技公司进行完善。

在我国，微信平台集聊天、视频、付款、阅读文章、购物、订票等各种功能于一身，而且，微信可以直接作为账号登陆许多其他网站，这固然方便，但如果微信账号被封禁，也将会给生活带来极大的不便。

算法不应由科技公司单方面控制。应允许更多的“个性化定制”，未来能写代码的人会越来越多，一些软件应允许任何人“按照他或她认为合适的方式修改代码”。

还有，科技公司数据交易对个人的补偿远远低于其数据的价值，这就好像工厂主在剥削工人的劳动力——科技公司在剥削我们的个人信息的价值。“Facebook用户已然成为历史上最大的无薪劳动者群体。”

与此同时，科技将逐渐取代人来进行工作，更多的人选择智能语音转写而不再雇佣速记员；选择翻译软件而不是专业翻译，未来，人工智能可能逐渐取代报道记者、出租车司机、财务人员等等。这将造成很多人失业。书中也给出了多种应对方式，并指出，也许这可以成为契机，来思考人类的未来。

“全民基本收入”（Universal Basic Income）的提议一度引起很多人的关注。在这种理念下，收入和工作两件事并不需要联系在一起，人类社会充满了人们共同创造的东西，尤其在算法的时代，人们贡献着数据而没有报酬。人们应有权去享受现代社会的科技带来的繁荣，而不必低价贩卖自己的劳动力，还没人愿意买。“迫不得已地在劳动力市场上把自己当作商品出卖，难道不是有辱人格的事吗？几个世纪以来，资本所有者一直在不劳而获，如果我们其他人也能这样做，这难道不是一种进步吗？”也许，是时候从为了工作而劳动，到为了发挥创造力而劳动了。人们为了兴趣、社区或同辈认同所做的事和所能迸发的创造力，往往要超出靠金钱购买时所提供的。在操作层面，“全民基本收入”的可行性仍不完善，但它向我们描绘出，未来可能是上层人高洁优雅，而底层人艰难度日的科幻小说中的场景，也可能是人类不再为工作担忧，投入精力做各自喜欢的事情的伊甸园（反对者会说，也可能是懒汉横行、娱乐至死的社会）。

“全民基本收入”游行。现代人的悲哀是，有一份工作也许不足以支撑一份“生活”。

一些人提议要增强国家权力对资本的监督，比如，要有专门人员对科技公司的算法的运行机制进行审核；监管算法推送中的种族主义、恐同等不公正因素，人工予以矫正等等。有人提议应采用“用益权”（usufructuary）的形式来管理科技公司。这种权力体系一般用在土地的使用上，国家拥有土地，但使用权可以被卖给个人。比起完全国有化，它可以让公司保留大部分利润，而减少垄断，让小公司在创业初始也可以使用大公司拥有的技术。但要警惕此举会造成国家权力的扩张。

也许，网络也可以给出一种更理想的政治选择。如今大多数国家所采用的代议制民主，大部分公民还是无法参与到实际的政治决策中，并且，也并非每个人都有闲心去关心、了解政治，许多人选择放弃投票权或用少量时间了解片面信息之后就去投票。在未来，也许民主可以更灵活，比如，人们可以投票参与更多具体的决策，而不是把权力让渡给某一个人，也可以把投票权委托给更了解某项事宜的人或团体，也就是所谓的“流动民主”（liquid democracy）。

此外，作者提到了“维基民主”这一概念。网络允许互相不认识的人各自贡献自己的力量，合作创作一份对社会有益的工具，再由更多的人进行审阅和更改。这是否能用到法规的制定中去？“2007年，新西兰为公民提供了使用维基参与撰写新《警务法》的机会，在巴西，《青年法规条例草案》最终文本大约有三分之一出自年轻的巴西人之手。”在这种政治理想中，决策过程的各个部分可以由最有意愿或最有能力的团体和个人来指导。

科技进步给人类社会许多考验，也给予了更多的可能性，能否去应对、怎样去应对，这份政治答卷可能成为未来人类生存的关键。

相关阅读

《意会:算法时代的人文力量》

作者：克里斯蒂安·马兹比尔格

出版社：中信出版社   出版时间：2020-11-01

 扫码下单

人类的算法

作者：[英]罗宾·邓巴

出版社：四川人民出版社出版时间：2019-06-01

扫码下单

<燕京书评>原创稿件，欢迎转发分享

【扫码加粉丝群】

亲爱的读者们，我们的读者交流群成立了，欢迎扫码入群，如果人满不能扫码，可以在公号后台右下角点击“粉丝群”菜单，添加客服，备注“进燕京书评粉丝群”。

推荐阅读

主编：张弘

运营：木月

美术编辑：小柒