庞金友|人工智能与未来政治的可能样态
点击上方蓝字关注我们
引用格式:庞金友.人工智能与未来政治的可能样态[J].探索,2020(6):84-96.
摘要:人工智能对现代政治理论和实践构成冲击和挑战的同时,也推动着新型政治样态的塑造和发展。从弱智能到强智能再到超强智能,人工智能的升级与进化引发了一系列诸如权力结构重组、民主形式更迭、统治秩序调整等重大政治变革。随着人工智能嵌入人类生活的程度日益加深,传统权力功能的消散和结构的松动,为后权力时代数字威权的形成和超级权力的崛起奠定了现实基础。人工智能为现代政治提供便利,甚至使直接民主成为可能,但在大数据、云计算、智能推送等新型技术的加持下,公民权利虚拟化、代议民主空壳化趋势明显,算法民主可能取代选举民主。人工智能一旦突破“奇点”,拥有个性情感并具备自主思维,成为足以比肩甚至全面赶超人类的智能存在,由人工智能主宰世界、掌控政治的机器统治时代就可能降临。
作者:庞金友,男,博士,中国政法大学政治与公共管理学院副院长,教授,博士生导师。
在人类发展史上,任何一场新技术革命都对政治的发展和变革影响深远。到了人工智能时代,在大数据、云计算、物联网等信息技术的加持下,无论是利益的提取和综合还是权力的运作,抑或决策的酝酿与输出,政治行为大多以数字形式即时呈现并精准表达。这些新变化对传统政治理论和实践构成重大冲击和挑战的同时,也在实质上推动新型政治样态的塑造和发展,激发人们对智能政治未来变革的前瞻和预判。所谓的“智能政治”是对人工智能时代政治现象和政治关系的统称,具体意指因人工智能不断渗透和介入政治领域引发的一系列政治变化和革新,诸如治理体系变革、权力结构重组、民主形式更迭以及统治秩序重构等。伴随着人工智能从弱智能到强智能再到超强智能的升级,智能政治也势必随之发生变化。那么,在不同的发展阶段人工智能会以何种方式影响政治,人类对人工智能的理解将发生何种变化,人类与人工智能的力量对比和关系模式又将如何,政治观念与政治样态将呈现何种变化?这些问题都是人工智能时代无法回避的政治议题,也是本文试图分析和探讨的重点所在。
1 超级权力:后权力时代的数字威权
20世纪50年代,人工智能正式诞生。到了20世纪60年代,迎来第一个发展阶段,此时的人工智能大多以语言翻译、人机对弈等为主。自20世纪80年代始,人工智能开始应用于社会生活的各个方面,在商业领域尤其成果斐然。进入21世纪后,人工智能由侧重快速计算、记忆和储存的计算智能向侧重视觉、听觉、触觉、人脸识别、语音识别的感知智能演进,并以此为基础向更为复杂的侧重理解、分析、思考、判断的认知智能冲击。目前,随着计算能力的不断发展,储存技术的不断升级,计算智能已经比较成熟。随着移动互联网的普及,大数据、云计算等新兴技术的换代,越来越多的非结构化数据不断被开发和挖掘,以语音、图像、语言处理、视频、触点为突破点的感知智能也在飞速发展。在计算智能和感知智能的支撑下人工智能正在向认知智能延伸,在某些领域已到突破的临界点。尤其是最近几年,计算机视觉、无人驾驶、机器人等领域蓬勃发展,智能手机、智能穿戴设备、智能家电等智能产品随处可见。从感知智能向认知智能的发展代表着当前人工智能发展的最新突破。感知智能的目标是模仿人类的感知能力,其核心技术是算法、机器学习、深度学习、知识图谱等,而认知智能的目标是全方位模仿类脑能力,其核心技术是认知维度、类脑模型和万维图谱。与弱人工智能相比,以感知智能和认知智能为基本特征的人工智能可以轻松处理预测分析、语言处理、图像识别、语音识别等事务,拥有更强的行动能力和更大的应用潜质,对社会生活和政治领域的影响也就越深入。
1.1 人工智能的数字本质
从本质上讲,人工智能是一系列技术代码的集合,这些代码一方面规定人工智能的设计标准,另一方面规定人工智能的使用方法。但这些技术代码是在一定的社会情境中生成的,除了纯粹的技术要素,还包括设计者的初衷、公众的接受程度、政治生态、经济环境和文化水平等。这意味着人工智能必然具有一定的价值性和目标性,并最终指向一个由技术全面赋能的数据治理模式。
首先,数据是人工智能的基石。人工智能得以运转从根本上讲源自对数据的搜索、匹配、解析、合成与解释。从这个意义上讲,数据是人工智能时代最重要的财富和资本,如同农耕时代的土地、蒸汽时代的机器和工业时代的生产线。那么,数据又从何而来呢?归根到底是由人生产的。人类在人工智能时代的生存场景就是在不断生产数据,然后由算法占有这些数据并规划下一步的行动方案。人工智能在生产领域的运用意味着较高的生产率、较少的生产时间和较大的剩余价值。那么作为传统生产要素的劳动力之重要性会随即下降。虽然短期内人工智能并不能代替人,但人工智能正在压缩传统劳动力的生产空间和经济地位,就像当年农民被迫离开土地走进工厂,马车夫只能学习新的驾驶技术才能操纵车辆,传统劳动力的替代只是时间的问题。“未来几年,人工智能将成为取代许多职业和摧毁人类谋生之道的‘罪魁祸首’,尽管人工智能也将创造新的、以前人类劳动者不曾想到的工作机会。”
其次,规则是人工智能的灵魂。人工智能正在从根本上改变人们的生活节奏、内容和方式。人们的衣食住行、社交娱乐、教育培训等无不依赖人工智能的平台和终端,从表面上看,人们的生活越来越便捷、舒适和幸福,但实际上人们正在产生对人工智能难以遏制、可能无法约束、难以回避的依赖性。这种依赖性增强的背后是人类对人工智能规则的认可和默许。换句话说,人们为了生活便利创造人工智能,但最终发现人们正在被人工智能所约束。“这是一个陌生的前沿,在人类历史上从未发生过。正当你惊奇于现代世界不断增加的方便度、个性化以及高效率时,新的社会制度会悄无声息地潜入,如猫一样前行。”可以设想,如果没有人工智能提供的美食排行,人们可能就不知道应该吃什么;如果没有人工智能提供的出行参考,人们可能就不知道去哪里;如果没有人工智能提供的购物参考,人们可能就不知道买什么。人们不知不觉接受人工智能所设定的规则,但并未感觉到利益的受损和权利的流失,甚至还能体会到舒畅和幸福,这就是人工智能真正强大的地方。
最后,共享是人工智能的根本。对于人工智能来说,数据的生产和共享同等重要。正因为有数据共享,人们的生产生活才会如此之便利和通达;正因为有数据共享,人类社会的经济发展、科技创新和管理水平才有提升的可能。当然,人们或许知道数据从何而来,但数据何时、何地被何人或何机构搜索和采集,基于何种目的进行分析以及如何分析,数据分析之后的结果在哪里,意味着什么,这些分析可能带来何种后果和影响,就不是普通民众所能了解和获悉的了。
1.2 传统权力的结构性重组
作为最基本的政治关系,权力一直是政治秩序的核心要素。随着人工智能嵌入人类生活的程度越来越深,政治权力的主体构成、客体范围、作用方式和力量对比发生了根本性的变迁,面临着结构性的调整。
第一,行政权力日渐式微。随着人工智能在政府各项行政事务中的应用与普及,智能系统将慢慢取代人工操作,智能机器人也可能逐渐取代行政人员,如此一来,政府机构将被大量精简,政府规模大幅压缩,行政效率和行政能力却迅速提升。与传统行政相比,人工智能最大的好处是客观、公正、规范、精准。只要把相关的法律、法规、章程、规定、原则编制成程序和算法,人工智能将自动、精确地执行。人工智能既不会瞻前顾后,也不会循私舞弊,更不会贪赃枉法。将大多数行政权力交付程序和算法,清除了寻租可能和操纵空间,权力的影响力和神秘光环自然逐渐减弱。“伴随着新技术带来的竞争加剧、权力下放和再分配,政府现有的形态将不得不发生改变,其以执行政策为核心的职能将逐步弱化。政府将被看作公共服务中心,其是否以最有效、最个性化的方式提供更广泛服务的能力要接受公众的评估。”
第二,国家权威遭遇挑战。人工智能时代,得数据者得天下,控算法者控天下。相比财力雄厚、职能单一、目标明确的科技巨头公司,政府在数据采集、算法研发、人才储备、资金投入、技术创新等方面有所滞后。“云端技术改变了数字产业;智能城市改变了城市风貌;算法改变了信息、文化和电子商务;智能自动化在加速;智能电子流取代了民选代表做出决定;个人隐私被完全颠覆。面对这一切,政府往往处于不利地位;网络巨头们比政府拥有更多数据和更强的打击力量。权力关系的现实已经改变。算法组成的政体正在和国家政府相竞争。审查和监控好比数据货币化一样,从政府转移到数字跨国企业。”随着数据治理在国家治理体系中的广泛普及,国家治理体系的完善和国家治理能力的现代化将越来越依赖大数据、新型算法以及掌握和操纵这些技术的科技公司。这一局面将造成如下后果:一是数据治理越普及,政府对科技公司的依赖性越强;二是政府依赖性越强,授予科技公司的权限越大,科技公司的行动能力越强;三是科技公司的能力越强,获取数据的规模越大,给政府提供的服务效率越高。此一消,彼一长,随着越来越多的数据为科技公司所采集,政府与公司之间的权力结构就会发生实质变迁。表面上看,政府仍居于权力结构的中心,但实际上权力空心化趋势愈加明显,国家能力将遭遇实质性的削弱,政府权威也将面临空前的挑战。“我们正处于政治凋亡这一缓慢而渐进的过程……正是由于上述几种因素——政权、地域、组织和民主,历史时代的国家作为信息智能体的地位正在被这些因素逐渐削弱。其他多智能体系统具有数据、权力,甚至是武力、空间以及组织的灵活性来侵蚀现代国家的政治影响力。”如此来看,沃林当年所担心的“国家公司化”与“公司国家化”趋势绝非杞人忧天。
第三,国际秩序面临重塑。人工智能时代,巨型跨国公司将在政治生活中扮演重要角色,一方面在世界范围的民族国家疆域内大展身手,另一方面在世界政治舞台上积极作为。凭借资本、信息和技术上的绝对优势,跨国公司在资源获取、商品开发、社会动员、规则制定上将拥有越来越大的影响力和话语权,甚至左右一些贫弱国家的政局和命运。它们会不断将触角延伸到世界更多的角落,直至与传统发达国家相庭抗礼、平分秋色。这些跨国公司可能会与主权国家一起共同参与全球治理、共同建构国际秩序。传统国与国之间对抗和竞争的秩序格局可能会重新洗牌:跨国公司与主权国家正面对决,公司首脑与国家领袖也许会平起平坐。“人工智能时代,这些跨国企业也将与主权国家一道,成为国际体系的重要参与者,国际关系的主体日益呈现出多元化的趋势。”无破而不立。传统权力功能的消散和结构的松动为权力的重组和新权力的崛起提供了前提条件,为后权力时代数字威权的形成奠定了坚实根基。“智能技术将成为重要的权力元素,无论是政府还是公司、社会组织,只要掌握了大量的数据等智能技术,其权力就会得到强化。”这一权力变革将在体制内和体制外同时展开:体制外,大型科技公司通过掌控数据、垄断技术建立相对独立于政府权力的“科技帝国”;体制内,政府越来越依赖人工智能治理国家和社会,数字威权和技术专制的趋势日渐成熟。如此看来,新型超级权力在人工智能时代的崛起和扩张已成必然之势。
1.3 超级权力与“数字利维坦”
人工智能的研制与开发需要长期的技术积累、巨量的资金投入和优秀的人才储备,这恰是少数科技巨头公司的长项。“资本的逐利性和技术对资金的依赖性导致了在这一波热潮中,既有的科技公司对人工智能有了明显增加的资金投入,而独角兽公司的快速成长也与海量的资金投入密切相关。”这些科技巨头凭借雄厚的人力、物力和财力迅速形成技术垄断,逐渐占领科技市场,稳步形成自己无所不在的强大影响力。在此基础上,科技公司还会寻求与公共权力的合作与共享,以提供技术支撑、公共服务和公益产品等形式慢慢渗入政府体制,进而影响公共权力的运行与效果。基于人工智能的超级权力如何作用于政治领域,或者说它何以成为一种新兴超级权力呢?
首先,影响公众的个人偏好。个人数据是21 世纪的“石油”,对于能够有效提取和采集个人数据的企业而言,这就是一种取之不尽、无法估值的资源。科技巨头公司借助数量繁多的社交平台和信息产品可以轻松获取公众的信息,系统评估公众的偏好,然后有选择、有计划地将分析、筛选和处理过的数据信息推送给个人。普通大众则生活在信息链条的终端,成为这些智能推送信息的被动接收者。在以“互联网+”、大数据和智能算法为特征的数字时代,人们貌似生活在无所不知、无所不晓的信息世界,实际上被封闭在狭窄的信息茧房中,既无法选择更无从验证,无时不刻不被自己固有的偏好洗刷,被他人推送的信息左右,被海量不知真伪的数据裹挟。这种迷失在信息丛林中的焦虑与无助,将使人工智能推送的信息对个人偏好的塑造和影响发挥决定性作用。
其次,左右选民的政治选择。在选举政治框架下,民主选举往往要进行多次大规模的民意调查,这种民意调查既是竞争各方评估民意倾向的重要方式,也是民众了解政治领袖竞争实力的方向标,对于影响民主选举的最终结果至关重要。但实际上,民意调查远没有想象中的客观、中立:如何设置调查程序、如何选择调查层级、如何制造竞选议题、如何控制公众舆论等都会影响结果。而最为重要的是,如何将调查结果通过数据控制和算法规定转换成通俗易懂的数字和图表,然后有选择地发布,进而影响甚至左右选举的结果,而这恰是科技公司的拿手本领。不仅如此,进入21世纪,政治传播的格局与方式发生了革命性的变迁,视频网站、社交平台等新兴自媒体的快速崛起正在以压倒性优势取代传统媒体的地位和影响,“脸书、推特和视频分享网站的发展已经深刻地改变了美国的政治生态,新的传统正在形成。技术对政治作用将前所未有地凸显”。2018年3月,美国政治咨询公司“Cambridge Analytica”不正当地使用Facebook数据构建工具帮助特朗普2016年总统竞选活动的数据丑闻被揭露,一时间全世界一片哗然。这也从一个侧面反证自媒体在总统大选中起着举足轻重的作用。
再次,取代专家的专业决策。随着社会分工精细化程度日益加深,为提高决策的科学性和权威性,政府公共决策将越来越依赖于各行各业专家们的专业判断和专业决策。人工智能可以依托这些专家的知识、经验,在大数据和智能算法的支持下建立专家评估与决策系统,模拟专家开展专业性评估、诊断和决策,只不过,“并非统计数据被专家选择服务,而是专家为统计服务”。随着这一系统的不断发展和完善,以往的公民参与、政府决策甚至领袖权威都将受到实质的冲击和影响。这一变化加速了决策数字化、信息集权化和权力技术化的趋势,可能造成意料不到的后果:一是公民参与公共决策的机会减少,无效能感、疏离感增强;二是政治家的话语权遭遇挑战,影响力和权威性削弱;三是技术精英逐渐取代专家的角色,跻身权力阶层行列;四是科技公司填补了专家和政府退出的公共空间,作用力和影响力不断攀升。
最后,形成政府的数字威权。随着大数据技术的逐渐成熟以及在政府管理和社会治理各领域的应用日趋广泛,人工智能分析现状、评估事态、预测走势的能力与水平也不断提升。政府越来越倾向于依据大数据、借助智能系统管理公共事务和开展国家治理,从而使人的主体性受到挑战。传统政治中占据重要地位的公共精神、精英意识、公民美德、大众参与等价值观念遭受前所未有的冷遇,冷酷的数据、精准的算法则备受推崇,渐有“无数据不决策,无数据不治理”之势,一种不同以往的新型数字威权或技术专制浮出水面。“一方面,人工智能对于获取、掌握、行使政治权力提供了全新动能和技术支撑,另一方面,人工智能也为垄断、滥用、霸占政治权力预留了作用空间和行动余地。”
与传统权力相比,基于人工智能的新型超级权力更高效、更强大、更具行动力,然而,它并非无懈可击、完美无睱。高度依赖数据、过于倚重算法、完全仰仗智能,是这种新型超级权力的致命短板和终极缺陷。
一是因数据缺失导致“决策失灵”。人工智能的运行必须具备三大支柱性条件:互联网、大数据和新型算法,三者互为条件,缺一不可。在相对贫穷和落后的国家和地区,大量人口蜗居在网络边缘地带,或互联网无法覆盖,或数据无法采集。即使获取到数据,数据样本也只是部分样本,而不是全样本,也就不是“大数据”。人工智能若据此做出决策,既不能考虑到这些边缘群体的偏好和需求,也不能确保决策的科学性、规范性和合理性,必定造成社会不公。“大数据大大地威胁到了我们的隐私和自由,这都是大数据带来的新威胁。但是与此同时,它也加剧了一个旧威胁:过于依赖数据,而数据远远没有我们所想的那么可靠。”
二是因规则限制导致“算法偏见”或“算法歧视”。从本质上讲,人工智能是一系列规则约定和议程设置,最终由算法设定程序。“在看似没有恶意的程序设计中,却带着设计者或开发人员的偏见,或者采用的数据是带有偏见的,会酿成各种社会问题。”也就是说,看似客观中立的人工智能其实是在自动执行人工给定的规则而已。这些人工制定、授权的规则往往存在性别、种族、职业、收入等方面的倾向性,一些弱势群体、边缘群体和少数族群往往被排斥在外,而且算法歧视更为隐蔽、更不易为人们察觉,具有较强的误导性和迷惑性。
三是因约束不足导致“数字利维坦”。技术是一把双刃剑,它既可以带来便捷、效率和舒适,也可以带来许多无法预想的社会后果。当公共权力运用、推崇甚至依赖各种人工智能平台、终端、系统和机器时,以数据至上、智能主导为特征的数字权力就被赋予实实在在的影响力和决定力,从而“赋予统治者强大的暴力能力”。随着信息技术渗入公共权力,科技巨头联合现行政府,若不加以合理约束和适度控制,人工智能就不再只是简简单单的技术存在,而将成为一个强悍无比、无所不能的“数字利维坦”。正如芒福德所担忧的:“个人的一切,包括行为活动、往来交谈甚至连梦幻、思想,都难逃这神眼跟踪。一已生命的一切迹象都被记录到计算机数据库,接受通盘监控和管理。换言之,不只是侵犯了隐私权,简直彻底破坏了个人的自治状态,其实就等于毁灭人类灵魂。”在这只巨大的利维坦面前,那些提供基础数据的普通民众要么沦为无足轻重的数据奴隶,要么成为可有可无的虚拟存在。
2 算法民主:后民主时代的程序正义
人工智能既是一种技术,也是一种思维,更是一种方法。人工智能在政治领域的应用实际上就是将复杂政治和社会问题的分析与解决借助互联网、大数据和智能算法的力量得以优化和实施。显然,人工智能在多大程度上嵌入政治领域以及在多大程度上影响民主生活,取决于掌握公共权力的政府对人工智能的理解和定位、普通民众对数字化生活的接受程度、社会各阶层政治参与的数据意识,以及政治研究者对人工智能方法的应用水平等制约性因素。随着互联网的普及和信息技术的广泛应用,人们越来越习惯以网络和社交平台为媒介提出利益诉求、表达政治意愿和参与公共事务,人工智能对民主政治的影响正在慢慢显露,“电子民主”“数字民主”从理论构想成为现实存在。
2.1 智能时代的民主境遇
人工智能确实为现代民主政治带来了新的变化和新的机遇。正如约翰·基恩所说:“新的数字技术是具有革命性的核心技术,对整个社会和国家产生了影响,削减了成本、拓宽了可利用的范围,使公民用以前不可想象的方法进行沟通。他们是一种潜在的‘民主技术’。”人工智能为现代民主政治带来的新变化主要包括快速捕捉公众意愿、及时把握选民动向、精确回应公民诉求和全面提升决策水平。
第一,快速捕捉公众意愿。民意是现代民主的动力之源,不了解民意就无从谈及民主。在传统政治的框架下,民众与精英之间总是隔着这样或那样的阻碍,民众的利益表达与精英的民意提取往往需要借助广场演说、街头抗争、媒体辩诉、社会运动等中介形式得以实现。到了人工智能时代,互联网的普及打破了地理与疆域的阻隔,社交平台的流行击穿了组织与制度的束缚,公民表达利益、维护权利,以及政府获取民意、吸纳意愿都可以借助网络和平台基本实现畅通无阻,“技术放大了普通公民的政治表达”。信息收集、数据处理的空前便捷,促进了政治决策和国家治理的智能和高效。例如,智能监控技术的运用大幅减少犯罪率;网络信息平台更加便捷地收集民众的意见,回应民众的需求;会议平台可以在最短的时间内召集大规模群体同时在线参与公共话题讨论。
第二,及时把握选民动向。2016年的美国总统大选,一些主流媒体和老牌民调机构“成功误判”特朗普和希拉里的竞选走势,从而正式宣告推特、脸书等新兴媒体和平台的强势崛起。在选举政治的框架下,公民个体投票是个人意愿的终极表达,总统大选投票是选民群体意愿的集体呈现,这一结果充满了太多的悬念、变数和不确定性。选举过程中任何一个环节的纰漏都是致命的,如丑闻的披露、电视辩论中的失误、从政期间的过激言辞等,都可能直接影响甚至决定大选的结果。大规模的民意调查成本高、难度大、周期长、时效性较差。在上一个议题的论辩中已经获得较明显的舆论优势和选民基础的候选人,在下一个议题的论辩中就可能兵败滑铁卢,因此及时、准确、全面了解选民的动向、各个群体的价值偏移、某一特定政治议题的效果,对于最终的选举是极为重要的。而这一点恰恰是人工智能借助互联网、大数据和新型算法等信息技术最为擅长的领域。
第三,精确回应公民诉求。充分了解公民的需求是有效回应的前提,精准把握信息是正确处理问题的基础。智能化、自动化、精准化作为人工智能的突出优势,在生产、商业和生活领域已经有了广泛的体现,但在政治领域尚未完全显露。如果充分运用人工智能的技术、思维和方法,诸如语言识别、自动搜索、数据采集与机器学习等,复杂的社会事务和政治议题可以获得精准化的处理。既然人工智能可以精准分析用户的消费需求和购物倾向,自然也就可以精准分析公民的政治诉求和价值偏好,从而为满足公民的个性化需求提供准确无误的回应和恰到好处的措施。在未来的民主生活中民众的政治意愿将更多以数据化的方式表达和呈现,公共权力和国家治理也会提供更丰富、更优质的数据化产品和服务。在这样的背景下,国家和政府只有充分利用人工智能的力量,才能够设计、规划和提供更精准的政策,从而获得公民更多的政治信任和国家认同。
第四,全面提升决策水平。民主的主要功能之一就是合理决策。从古至今,民主决策的方式一直在不断演进。城邦时代的直接民主虽然被视为现代民主的蓝本之一,但它对规模和议题的限制使得直接民主进入近代巨型民族国家时代后不得不被放弃,由代议制民主取而代之。代议制民主的工作机制是由民众选举精英,代表其管理国家和公共事务。无论从理论层面上如何解释,普通民众在选举政治精英组成决策机构后,实际上已经再也难以实质参与公共决策,更多是扮演监督的功能和角色。近些年,协商民主的理论越来越受到人们的重视实际上就是想解决代议制的这一不足。但随着研究的深入,人们发现协商民主也不无缺陷,至少它对公民素质的要求、协商成本的控制、协商过程的监督等方面仍有较大的提升空间。进入人工智能的时代,协商民主的缺陷有望得到弥补,“在具体的议题上,依靠数据与智能运算能够快速得出具有科学性、客观性乃至公开性的分析结果,并便捷地为利益相关者所掌握,从而提升协商的效率。在这一方面,人工智能同样可以发挥重要作用,有效提升智库成果的质量,为最终的决策提供科学依据”。
2.2 直接民主的幻象与算法民主的陷阱
借助互联网、大数据和智能系统,在较为发达的国家或地区围绕某些特定政治议题和社会事务的解决,有条件也有可能实行全民即时在线的直接民主。换句话说,以往只出现在人们想象当中的古典时代的直接民主,在人工智能时代完全有实现的可能。
那么,人工智能时代的直接民主真的值得期待吗?不妨想象这一恢弘的政治场景:每当需要表决重大议题时人们只需打开手机,进入特定的程序或平台,以即时投票的方式直接表决,表决结果会在第一时间呈现,赞同者、反对者或弃权者都能得知投票结果,一切变得无比简单、透明而高效。显然,这种民主形式让人既熟悉又陌生。民主的基本框架还在,投票的形式被保留,多数决的规则被沿袭,但代议民主的实质已经被掏空。事实上,人们不是在选举代表,而是直接进行政治决策;人们只需要具备执行能力的行政体系和技术官僚,即便是后者也可能慢慢被智能机器所取代。民主只是空具其形,已不具备代议和决策的功能;代议民主正在被算法民主逐渐取代。
某种程度来讲,民主一直与某种形式的数量原则相伴而生。按照执政人数与政权宗旨,亚里士多德曾经将政体形式划分为六类:一人执政的为君主政体或僭主政体,少数人执政的为贵族政体或寡头政体,多数执政的为共和政体或平民政体。布丹也按照执政人数将政体划分为君主政体、贵族政体和民主政体。正是因为民主暗含着数量优势可能压制真理与美德的价值偏好,所以自古典时代以来在精英主义者眼里一直不具备好的名声。到了近代,普选、代议和多数原则被视为民主的基本原则。“少数服从多数”成为民主制度区别于其他政体的核心特征。究其实质,这种多数决原则本身就是一种简单的算法原则,故而被托克维尔和密尔看作是“多数人的暴政”。“在人工智能时代,民主这种初级的大数据算法正在被更高级的大数据算法所取代:后者不再和生物性个体直接打交道,而是和他/ 她生产的数据打交道,并通过数据来有效‘触动’个体,这种有效程度随着算法迭代快速上升,最后形成控制效应。”也就是说,虽然依旧是民众在表决,但实际上是由人工智能来计算和呈现表决结果,从民众表决到结果呈现之间,是由人工智能在管理和操控这一运算过程。从某种程度来讲,民众的权利正在慢慢被数字化、虚拟化。
不仅如此,在人工智能时代借助推特、脸书等社交平台采集的大数据和不断革新的新型算法,人工智能可以系统评估个人的政治倾向、社会需求、价值主张、文化诉求,根据选举和决策的需要,对其施以精准的政治影响,而被影响者轻易不会发现这种影响力的存在。这一进程虽然并未实质更改选举民主的基本框架和运行规则,但有将民主政治架空,导致民主政治空壳化的趋势。按罗宾·汉森的预测,“民主制度至少仍有可能在仿真世界的部分地区得以延续,但却不可能成为仿真世界治理机制中的主导制度”。在传统民主政治实践中,大众的崛起代表着现代民主的进步,这种进步是以民众的力量逐渐取代君主的、贵族的或者少数人的力量为标志。但在人工智能时代,站在民众对立面的国王已不复存在,贵族、精英也被虚化,被数字民主虚化的民众权力并未转移给民众的“对立面”。那么,在后民主时代,谁将成为政治的主角呢?不难发现是技术精英,是那些掌握大数据、智能算法技术的专业人才和科技巨头公司,他们才是实际权力的拥有者。
在数字民主的框架下,与其说人们在选择领袖、决策议题,不如说在选择某种算法。在民众进行民主决策和政治终端输出之间神秘的开阔地带,正是算法权力在操控着一切。算法在“本质上是解决问题一系列指令,是用系统的方法处理问题的一种策略机制”。它既是一种特定的技术手段,也是一种隐形的社会权力。掌握算法的个人或企业可以利用自身的技术优势和数据资源,影响、引导甚至左右政府的决策,从而形成一种不同于以往的新型“准公权力”。与强调垂直结构、以强制和暴力为基本特征的国家权力相比,算法权力更强调水平分布,更侧重操纵和引导,具有较强的隐蔽性和泛化性,是一种隐性的“软权力”。
值得注意的是,算法权力具有内在矛盾性:一是逐私利抑或谋公利的矛盾。算法的研发首先是一种经济行为,追求资本的最大化为其内在冲动,但算法一旦作用于公共领域,关涉公共事务就应当具有公共性和正当性。如此一来,算法权力背后隐含的资本与权力、私利与公利的冲突是无法回避的。二是重偏好抑或重平等。在算法技术出现之前,互联网中的信息对于每个人都是公平、对等的;算法出现后,数字世界的规则发生变化,呈现在每个人面前的信息会依据性别、年龄、民族、喜好、信用、薪酬等标准筛选、甄别,而每个普遍的信息接受者对此要么一无所知,要么无能为力。事实证明,算法权力导致的差别性、偏见性和歧视性是避无可避的。三是技术至上抑或人类主体。究其本质,算法只是一种技术形式,终极目标是服务人类主体。但算法权力框架内人的存在由数据赋值,人的意义由数据界定,作为数字系统中被提取、评估、计算、预测的客体,人已沦为算法操纵、控制的对象,其主体地位岌岌可危。算法权力的上述内在矛盾性决定了其可能的风险性。算法权力逐私利、重偏好、追求技术至上,形成一种以数据信息为中心的新型权力,一旦脱离监管或无法合理控制,势必损害平等价值、公共利益和基本道德,引发诸多社会后果,“我们看到AI 系统正在被部署为既能增强社会也可能以复杂的方式毁灭社会的这样一种不断增长的潜力”。
作为一种信息技术的人工智能并不会彻底改变民主政治的基本框架,更不会替代民主政治背后的权力规则,但人工智能可以通过改变经济样态、社会结构、大众文化和全球秩序进而影响权力的组织和分配。人工智能的普及和应用将导致越来越多社会领域里的人类角色被智能机器所替代,其后果可想而知。按芬伯格的观点,技术与民主之间是一个“共建”的过程,“技术政治学来自技术的调节,这些技术调节是构成社会的许多社会群体的基础”。随着被人工智能技术和机器所取代的人类的数量越来越多,人与人之间、人与机器之间、机器与机器之间的权力斗争将成为新的常态。这可能是人工智能带给民主的终极威胁。
3 机器统治:后人类时代的秩序建构
人工智能是一把双刃剑。一方面,它为现代民主的进步打开了一扇窗,甚至让人们看到了数字时代直接民主的可能性;另一方面,它也为现代民主关上了一扇门,技术与权力的结合、技术精英与政治领袖的联手,究竟会更好地为民众服务还是会在实际上架空民主,走向技术专制,一切尚未可知。目前可以断定的是,仅仅只是由熟悉智能技术的个人或科技公司掌控数据、操作算法,就已可能破坏民主的核心精神。随着人工智能的进一步发展,一旦错综复杂的民主政治沦落为简单纯粹的数据独裁或技术专制,那么由人工智能操控政治秩序的时代可能就不那么遥远了。
3.1 机器统治的出现
从本质来讲,机器统治是技术统治的一种。狭义的技术统治是指掌握人工智能技术的专业人才通过垄断和应用技术达到统治的目的,即“专家统治”;广义的技术统治是指智能机器取代人类成为世界的主宰,拥有至高无上的统治权力,即“机器统治”。从当前发展现状来看,全球的科技巨头公司在人工智能领域都投入了大量的资金,大批高素质的技术精英正在参与研究与开发,这些技术精英掌握着互联网、大数据和新型算法的高端技术,他们是未来人工智能发展的中坚力量,是人工智能研发公司和相关行业的强大支撑。只不过这些技术精英尚未参与公共生活,并未有机融入公共管理,还不具备未来学大师托夫勒笔下“技术官僚”的基本特征。而人工智能在未来相当一段时期,仍然只会是人的创造之物,“奇点”的突破还只是一种设想,但是人们并非没有理由担心。随着人工智能由感知智能向认知智能的全面升级,人类对人工智能的依赖性不断上升,社会生活各领域中人的角色与功能逐渐被人工智能代替,人类可能会成为最有闲的无用之人,与人工智能的力量对比发生了根本性的扭转。人工智能不再仅仅是为人类提供服务和效率的工具,开始成为人类最大的竞争对手。
然而,人工智能的发展仍未止步。人工智能有可能在某一天成功突破“奇点”,开始拥有自主思维、独立意识和个性情感,成为足可比肩人类甚至全面赶超人类的智能存在。“人工智能一旦脱离束缚,将以不断加速的状态重新设计自身;而人类由于受到漫长的生物进化的限制,无法与之竞争,将被取代。我们无法知道我们是将无限地得到人工智能的帮助,还是被蔑视并被边缘化,或者很可能被它毁灭。简而言之,人工智能的成功有可能是人类文明史上最大的事件,但是人工智能也有可能是人类文明史的终结者。”作为无能且无用的群体,人类沦为机器的纯粹附属物,面临或被淘汰或与机器融为一体的两难困境。一个由强人工智能或超人工智能主宰世界、掌控政治的机器统治的时代可能降临。
3.2 技术主宰下的秩序想象
古往今来,人们一提到政治主体,无论被冠以何种称谓或头衔,诸如君主、贵族、平民、外邦人、公民、市民、农民……其首要条件是“人”,河流、山川、亚里士多德笔下的神诋与野兽自然都不是政治主体。但自2017年10月26日,沙特阿拉伯将公民权授予机器人索菲亚这一天开始,人们不得不面对这样的现实:一个人与智能机器或者说自然人与智能人(机器人)并行并立的时代已经拉开序幕。虽然并不是所有人都能认可并接受这一现实,但人类的主观意愿真会影响人工智能发展的现实进程吗?显然不会。“许多科学家已经感受到,未来的一个重要趋势就是机器人和人工智能会超过人类,但冲向人工智能的势能是如此之强大,以至于人类完全无法阻挡。换言之,很多人都知道盛宴和狂欢会产生相应的消极的结果,但人类都经受不住盛宴的诱惑,义无反顾地参与其中。”因此,问题的关键在于人在何种程度上称其为人,机器与人的区别究竟在哪里?“机器人的本义是作为人类劳动的延伸产物,可随着人类将机器人做成了人的样子,人类与机器人之间的界限已经有了模糊的趋势。当机器人具备人类的智慧和情感之日,也就是人类与机器人之间的鸿沟彻底弥合之时。”
随着人工智能技术的不断发展,一些高风险、高强度、重复性、机械性的工作被不知疲惫、任劳任怨的智能机器所取代,而人工智能在收集和分析信息、计算和储存数据、深度学习方面拥有远强于人类的能力。从日常生活、工作学习、商贸往来、评估预测等方面,人们将越来越多分析、判断、评估、决策的任务交给人工智能,让人工智能代为管理、储存和决策。某种程度上来说,人工智能甚至比人类更了解人类,“比你更了解你”。人类将决策权交给人工智能,实际上相当于将决策权交给智能算法;随着人类不断赋权给算法,人类对人工智能的依赖性也会不断增强,人工智能也会越来越强大。“谷歌也不见得永远是对的,毕竟这一切都只是概率。但只要谷歌做出足够多正确的决定,人类就会将更多权力交给它。随着时间慢慢过去,数据库规模会不断扩大,统计数字会更准确,算法会继续改进,决策的质量也会提高。”
在不久的未来,人类将慢慢退出大部分生产、工作、贸易、决策等领域,甚至失去了学习的必要,因为依靠人工智能技术,完全可以按照个人喜好和需要将装有知识与技能的芯片植入人的大脑,人们立即成为无所不知、无所不能的“完人”。当然,这一变革将导致另一个结果出现,由于社会生活各个领域的工作被智能机器人所代替,人类将成为可有可无的闲人或废人。“第一台超级智能机器人是人类最不应该发明的东西。智能机器人会超越人类的智力活动,不管人类有多聪明。既然机器人的设计是人类智能活动的一种产物,那超级智能机器人也会设计出更好的机器人。”尤其是当人工智能成功突破“奇点”,智能人或机器人就将与人类一起共享这个世界,成为平等的存在体。
人类终将进入一个“后人类”时代。突破“奇点”的超级智能机器将与经过人工性改造和技术化重构的类人智慧体共同存在。以人为主体、由人类主宰世界命运的历史将被终结。在这一演进过程中,人与人工智能的关系是不断发展、不断突破的,两者的关系内在决定了智能政治的基调与底色。最初,人只是借助人工智能技术介入、影响和参与政治。此时人是主体,人工智能只是一种技术辅助手段。“在弱人工智能阶段,机器人几乎没有机会反抗人类的权力统治。”紧接着,随着人类对人工智能的认可度提高,以及人工智能技术与能力的不断提升,人工智能突破“奇点”,成为独立的类人智慧体。此时人与“智能人”不分主辅,平等并存,和谐共处。只要想象一下你身边的人群中站着一半左右的机器人索菲亚,就能理解这个阶段意味着什么。最后,随着人工智能技术的不断突破、智能机器人的迅猛升级,人类相对于智能机器的短板和弱势不断凸显,人类将面临一个艰难选择:要么自动退出历史舞台,拱手让出整个世界的所有权,沦为机器的辅助工具,人类命运交由机器主宰;要么选择接受器官移植,从而与机器融为一体,“在充满人工智能的世界里,人类如果想维持其地位,就必须变成半人半机械的物种,以避免沦为人工智能的玩偶”。此时,人与机器已经一致无二:人是机器,机器也是人。但无论如何,人工智能终将主宰这个世界。从这个意义来说,后人类时代的秩序建构可能是人类思考的最后一个政治议题。
4 结语
从数据治理到超级权力,从算法民主再到机器统治,智能政治的进步与发展关键在于人工智能何时何地、以何种方式影响现代政治以及影响至何种程度。这一进程又取决于四大因素的影响:人工智能自身的发展水平、人工智能在政治领域的渗透程度、人类对人工智能的理解状态、人类与人工智能的力量对比和关系模式。换言之,从弱人工智能到强人工智能,再到超人工智能,人工智能越发达,介入政治领域的程度越高,人类对人工智能越认可,人工智能对现代政治的影响越大;人工智能未来一旦突破“奇点”,拥有自主思维和独立意识,与人类的力量对比发生根本扭转,人类主宰的格局将终结,人-机共治或机器统治的时代可能到来。当人类创造出人工智能,人工智能是将人作为神一样供奉,还是先反抗再取而代之,这取决于今天的人类对于人工智能的理解以及对人工智能所做的每一项决定。
那么,究竟该如何面对人工智能的可能发展及其对政治领域的冲击和影响?换句话说,人工智能时代如何未雨绸缪呢?首先,必须始终贯彻以人为本的价值理念。人工智能的本质是一种现代科技手段,人的愿望、人的利益和人的诉求是人工智能发展的出发点和落脚点。人工智能必须以不断满足人类社会发展不同阶段的社会诉求为第一宗旨。人类的生存和发展这一根本利益是人工智能进化的底线和红线。无论是从伦理还是从技术的角度,必须确保人工智能为人类服务的根本目标。其次,高度重视顶层设计的规划理念。人工智能是世界性大国综合实力的重要组成内容,国家和政府必须规划人工智能的战略发展,强化人工智能的思维意识,从国家顶层设计的角度确定人工智能发展的合理模式和具体路径。高度重视物联网思维、大数据思维、新型算法思维,在国家治理现代化的现实场景内,合理规划人工智能发展的发展目标、实施步骤和推进策略。要将人工智能放在科技繁荣和发展的优先级别,加大公共财政投入,确保人工智能领域高端人才的培育与储备,不断完善科技发展协同体系,构建面向未来的人工智能协同创新机制。最后,合理谋划适度控制的风险理念。人工智能是一把双刃剑,在不同的发展时期,会带给人类社会各个领域的冲击和挑战。在大力发展人工智能的同时,必须坚持合理发展、适度控制的风险意识。在充分重视可能引发的政治风险的同时,注重前瞻预防与约束引导,最大限度降低威胁和损失,确保人工智能处于安全和可控的发展状态。与此同时,不断提升整个社会的人工智能伦理观念,不断出台有关人工智能的法律法规,同时建立补偿机制和审查机制,以保证个人隐私和数据安全。尤其要注意数字鸿沟的存在,避免人工智能加大贫富差距或引发更深层次的社会不公。可以预见,在未来人工智能的进化史中,主宰者与被主宰者、权力主体与权力客体的界定与争夺将在控制与反抗中碰撞、交织,从而共同谱写后人类时代智能政治的当下与未来。对此,人类可以有所期待,但要有所反思,更须有所准备。
扫描二维码
阅读6期全文
相关推荐: