余南平｜新一代人工智能技术与大国博弈新边疆｜大文明视野中的ChatGPT反思（之十）
◆ ◆ ◆ ◆
上海市社会科学界联合会主办主管
有学术的思想 EXPLORATION AND FREE VIEWS
官网地址 http://www.tsyzm.com
◆ ◆ ◆ ◆
目前本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱tsyzm@sssa.org.cn停止使用，原投稿邮箱tansuoyuzhengming@126.com为编务邮箱和应急邮箱。原创文章，未经授权，谢绝转载，如需转载请留言。
新一代人工智能技术与大国博弈新边疆
余南平｜华东师范大学政治与国际关系学院教授
本文原载《探索与争鸣》2023年第5期
非经注明，文中图片均来自网络
具体内容以正刊为准
余南平教授
作为新一代生成式人工智能技术的代表产物，ChatGPT通过连接大量的语料库来进行模型训练，并进行深度学习，其公开发布和应用推广在产生“技术奇点”的同时，也正在引发一场人工智能技术新革命。
人工智能大模型技术（transformer）路线，包括其取得的生成式人工智能技术进步，展示出的通用人工智能（AGI）特征，使人们看到了强人工智能时代的开启，并引发了技术进步主义者与技术规范主义者之间的激烈争论，进而引发人类开发工具与工具脱离人类控制的悖论性命题。更为现实的且不可忽视的是，与人类主体性并存的是民族国家的主体性存在，即国家在发展人工智能技术中的角色与抉择同样重要。特别是在人工智能带来无限可能时，国家如何通过人工智能技术手段塑造与强化自身的国际权力？而在国际权力被技术快速嵌入的新角逐中，人工智能技术又如何与国家进行互动，进而创建大国博弈新边疆？
工业革命与国家竞争
历史已经证明且会继续证明，任何技术的创造或是源自军事用途，或是最终可能被用于军事用途。以近代技术提供的例证而言，第一次工业革命的成果使得1849年法国拿破仑号成为第一艘采用蒸汽的战列舰，1854年英法俄克里米亚战争中图温南步枪的射速、精度，使得俄国的旧式军队无法应对散兵线的作战，拿破仑时代的纵队战术在技术面前显得不堪一击。第二次工业革命中汽车、飞机、无线电通信纷纷登场，其产生的生产力大大推动了经济社会进步，但仅仅是十年时间，随后第一次世界大战中，重炮、重机枪乃至化学武器等的使用，使得欧洲成为战争的“绞肉场”。第二次世界大战中，德国坦克集群迅速突破了苏联的筑垒防线，空中轰炸使得欧洲付出数十万人的生命，而美国航母使用高强度的轰炸摧毁了日本的战争工业，背后都是各种技术的集成。第三次工业革命在军事意义上显得更为轻型化和文明化，导弹、电子计算机、卫星技术开始应用于军事领域。美国和苏联获得技术领先性，但第三次工业革命意外的结局是苏联的解体，随后是美国利用互联网对全世界进行意识形态输出。所以说工业革命本身既决胜负也定生死。
当下以ChatGPT为代表的大型语言模型，预示着强人工智能时代或将来临，人类社会主动和被动地进入第四次工业革命阶段已不可逆转。
当我们向ChatGPT发问：AGI如何改变世界的地缘格局？它会轻松地回答道：AGI是指能够超越人类智能水平的人工智能系统，如果某个国家率先获得AGI，它可能会对其他国家造成巨大的威胁和影响，可能改变世界地缘格局的方式包括政治和文化影响，经济、社会、军事等领域的变化。而当你再进一步发问：请更详细地解释AGI可能如何在军事领域被应用？它会务实而前瞻地回答：AGI在军事领域的应用，可以是增强人类士兵和武器系统的能力，也可以是开发自主决策和执行任务的自主武器系统；在战术和战略方面，AGI可以分析大量的战术和战略数据，帮助指挥官作出更加准确的决策，例如，它可以预测敌方部队的位置、规模和行动，为作战计划提供关键的情报；在无人机和自动化系统方面，AGI可以用于开发更加智能和自主的无人机和自动化系统，这些系统可以自主执行任务，例如侦察、侦测和攻击，降低士兵的伤亡风险，提高作战效率和精度；在智能武器和导弹系统方面，AGI可以用于开发更加智能和自主的武器和导弹系统，例如，AGI可以使导弹系统自主选择和攻击目标，而无需人类干预，这可提高打击精度和速度，并降低误伤风险。
当然无一例外地，在回答这些问题时，ChatGPT会一如既往地提示，国际社会需要密切关注AGI技术的发展，并制定相应的政策和法规来管理对它的应用，包括提示数据集可能包含敏感和机密的信息，在使用这些数据时需要采取相应的安全措施来保护数据的机密性和安全性等“善意”的建议。这些建议可能被重视，也可能会被忽视。正如经济学家和技术史学家更关注工业革命给人类带来的进步，一些国家主义者看到的是人工智能技术革命大大拓展了军事竞争新边疆。而其对他国降维打击的潜能，可能驱动一些国家将强人工智能技术应用于军事以保持“技术自主”，而这一点在今天关于新一代人工智能的争论中已被证实。美国网络司令部司令在美国众议院质询中，拒绝了马斯克等人提出的对比GPT-4更强大的人工智能系统暂停训练6个月的“千人倡议”。
人工智能改写全球经济格局
正如ChatGPT所给出的显见答案那样，在经济领域，获得AGI的国家同样会占据领先地位。由于AGI在生产、制造和服务等领域中的广泛应用，某个国家的经济实力可能会远远超过其他国家，这可能造成世界贸易和金融体系的巨大变化。在强人工智能技术空间的拓展中，机器作为劳动力角色出现，并使得人类操作机器生产范式向机器介入劳动并自动生成劳动成果范式转化，其改变的不仅是当下经济学视角中的“劳动力角色”本身，而且随着边际成本快速下降，通过全球化而形成的全球产业链、全球价值链将被改写，既有的经济学理论认知将被淘汰。更重要的是，当机器作为主要劳动力，其自循环能力产生时，发展中国家依靠国际分工而获得的低端收益将消失。国家主体性被消亡的风险，不会止于经济层面，其更多会反映到国家主体的生存博弈中。此时，技术民族主义和经济民族主义不再是一种政治学概念上的分辨，将可能转化为国家政治与经济行动的内在逻辑，在“生存”的第一驱动下变得异常强大。
可以预见，人工智能改写经济学范式是必然的。在布莱恩·阿瑟所定义“收益递增经济学”概念下，“技术本性”（technology-ness）将在人工智能技术自我迭代和强化中被进一步展现，在自创生的生物属性下，经济将被重新域定。而这个域更多不是既往熟悉的那样围绕核心技术联合而成，而是将从一个现象簇中构建起来。其结果完全不同于既往工业革命时代的国家全产业链，也不同于全球化时代全球价值链所主导的经济范式，新一代人工智能可以通过生成式人工智能—脑机接口—人形机器人完成自我闭环组合，进而产生强大的生产能力和自足可能。而掌握更先进人工智能技术的国家不仅可以一劳永逸地解决劳动力、移民、资源不足等困扰问题，同时还可以形成“高维度”生产力辐射，控制全球生产、贸易网络体系，在改变自身经济循环系统的同时，也可改变国家间的相互依赖关系。
人工智能正在改写自由主义经济范式并给全球化带来更新的难题，一些国家可能会基于对国际性经济权力和压倒性经济基础构建的追逐，将人工智能作为经济武器存在，进而视人工智能技术为自身民族国家发展的底层屏障与依托，以此为基础进行国家间博弈与竞逐。
人工智能与意识形态博弈
技术与政治的互动性存在，使得技术的中立性一再被证伪。换句话说，即使天真地假设技术本身具有可能的中立性和工具性特点，但由于其产生离不开特定的民族国家，国家的政治与意识形态属性使得技术的两面性反复呈现——技术的主导国既可以将技术扩散与分享，作为推进人类福祉的工具，也可以将技术本身作为遏制他国的战略武器与工具。而后一种情况在今天大国博弈的环境下明显在加剧。正如ChatGPT自身所归纳的那样，获得AGI优势的国家可能会在政治和文化领域拥有更大的国际影响力。由于AGI可以处理大量的数据和信息，它可以用于影响和操纵公众意见，这可能会改变全球政治和文化的格局。而这其中的“文化”很可能是ChatGPT智慧地回避了政治自身的意识形态属性后输出的结果，具有极大迷惑性。
国家通过信息技术扩大自身政治合法性的传统研究一般聚焦两个方面：一是将信息技术作为一种生产力，研究信息霸权、信息技术垄断和信息科技资本的外溢；二是主要研究滥用信息技术带来的网络信息泄露和舆论风险。而与传统人工智能技术带来的信息安全影响力不同，当前ChatGPT的训练是依托于大模型、大数据集的红利，展现出的效果已经在一定程度上显现出强人工智能的属性，其借助超大的数据量和超强的算力，能够仿照人脑甚至在很多方面超越人脑的信息处理，突破信息传输和共享的时空限制。在AGI的模式下，人工智能可以大量生成目标言论，模拟用户发言，并在用户基数庞大的互联网社交网络上进行舆论攻击。不仅如此，人工智能技术还可以通过深度伪造技术编造信息，并辅以各种迷惑性材料，生成虚构事件和虚假信息，甚至可以直接影响某些政治态度。而大量恶意虚假信息的传播也极易煽动社会的质疑和不满情绪，加剧矛盾分化，影响社会稳定。因此，AGI不仅具有一般政治意义上的流程和导向影响能力，同时，在国际层面上，一些拥有强大生成式AGI能力的国家，还可能为了自身国家利益引导某种国际合法性，进行意识形态输出和国际舆论主导性掌控。因此，当人工智能技术通过业已普及的互联网跃然于国际政治舞台时，优势技术国家的传播力、渗透力或被明显加强，由机器不间断产出的各种信息充斥于网络空间，并使人工信息被淹没和屏蔽，进而产生了大国政治与意识形态博弈的新边疆。
综上所述，当尤瓦尔·赫拉利在2015年为未来谱写简史的时刻，人们只是为其想象力折服，并对其所描绘的智人、智神充满幻想，或许赫拉利也未曾想到未来已经在今天呼啸而来。而在这个呼啸的人工智能技术发展旋风下，技术已经不可避免地呈现了巨大的黑洞，并展示了无尽的前沿和遥远的新边疆。这个新边疆的拓展在某个层面或许依然被认为仅保留在技术与经济的互动之中，但是，值得牢记且不可回避的是，任何技术革命包括此次已经开启的由ChatGPT诱发的新一轮人工智能革命，其在历史进程中不可避免地嵌入国家角色并产生作用力，也不可避免地引发国家间围绕人工智能革命的新博弈与新竞争。人工智能技术的发展不会彻底消灭国家间的竞争，其自身会在不同国家的“生存正义”追逐下，在每个国家努力开拓技术新边疆的过程中被不断塑造！
有学术的思想 有思想的学术
聚焦中国问题
秉持人文立场
人文社科学者的平台
欢迎一起“探索与争鸣”