ChatGPT这么牛，我们应该如何兼顾发展和治理？

傅宏宇

阿里研究院数据经济研究中心副主任

作

者

ChatGPT的火爆，让人们感受到新型人工智能技术越来越迫近我们的日常生活。未来，人工智能可能会成为重要的生产力，改变我们的生活。在进入未来世界之前，我们也在思考如何更好的治理人工智能技术，让发展和治理同步进行、共同迭代。

近年来，中国针对人工智能技术可能带来的风险，出台了相关法律和政策要求，科技企业也努力加强风险控制，接受社会监督。如何更好的推动针对新型人工智能技术的“敏捷治理”？如何在有效应对技术不确定的同时，激发创新活力，加强国际竞争力和技术影响力？

要回答这些问题，首先要了解新型人工智能技术带来了哪些挑战——

挑战一

“共同无知”

“共同无知”是指治理者和被治理者都不确定治理对象带来的风险和挑战。传统治理范式中，治理者和被治理者信息不对称。治理者对技术研发应用了解较少，需要通过算法透明等方式，理解技术过程和技术后果，采取相应治理机制。但新一轮人工智能技术发展迭代迅速，各方面临的问题更多是，对技术发展变化和影响后果共同无知。

以前，算法透明在很大程度上能够让各方了解技术特点及其结构，理解技术原理及负面影响。但以ChatGPT为代表的新型人工智能技术模型复杂、底层原理缺乏明确理论解释，给治理提出新的挑战。

另外，传统科技治理以先验式为主，也就是在风险识别的基础上，分类分级建立治理框架，采取预防性制度规则防范风险。但ChatGPT为代表的新型人工智能技术可解释性差、风险情况未知、发展前景无法预知的情况，必须要探索新的治理模式。

挑战二

“目标模糊”

“目标模糊”是指作为最普遍应用的新型技术，人工智能的广泛影响使得治理目标呈现多元化特点。人工智能技术快速迭代，应用场景也越来越广泛，要用更加包容的态度面对问题，设定多元、合理、具备包容性的治理目标。

以前，人们担心基于内容生成类算法被用于换脸等深度伪造，给信息安全及其相关的肖像权、财产权带来危害。现在，随着ChatGPT出现和应用，很多专家也开始担心技术落后于人会带来的风险，呼吁通过更好的治理手段来解决数据、算力等发展堵点。

技术快速发展也要求动态模糊治理工具的运用范围，利用合规、可信的技术对技术本身进行治理和约束，实现多样化的治理效果。例如，数字水印技术开始是DRM（数字版权管理）机制的一种，被用于保护内容的著作权；随着深度合成技术发展以及普及，该项技术逐渐被应用于虚假内容治理领域，避免用户混淆、误认，并实现生成内容可追溯、可检测。治理工具的效果随技术发展呈现多样化特点，其使用方式和使用效果也是多元的。对治理工具的选择和确定需要考虑到这种模糊性，避免过于严格、单向度工具的设计和使用，并在过程中动态调整。

挑战三

“关系依赖”

“关系依赖”是指多类型主体参与“人工智能生成内容（AIGC）”，造成“牵一发而动全身”的多元主体的治理困境。传统治理范式下治理者和被治理者身份清晰，社会公众等利益相关方较少参与。但以ChatGPT为代表的通用人工智能技术主体多元，包括内容服务提供方、作为数据提供方的用户以及提供通用人工智能的技术支持者等。

人工智能治理不是二元对立的双边关系，需要各方互相依赖、共同探讨，需要各类主体发挥自身治理能力优势，取长补短，形成综合全面的共治体系。例如，可以构建开源开放的社区环境，逐步形成自律自治的技术共同体，加强预判风险能力，有效补充外部监管。另外，由于人工智能设计伦理问题，通过多方参与形成共识的方式开展伦理治理，主动接受社会监督，有助于达成共识、建立信任。

应对方略

敏捷治理

面对上述挑战，应当如何有效的治理ChatGPT，让它的创新能力可信可控可靠，服务人类福祉和数字经济高质量发展？

以往，科技治理的主要范式有两种：包容性自规制和规制性监管。包容性自规制范式的核心思路是“避风港规则”，是一种通知—删除规则为核心的企业自律和结果责任体系。它形成于20世纪80年代，为上世纪末开始的快速发展变革浪潮提供了治理模式基础。很明显，这种治理方式下会产生较多侵权问题。规制性监管的特点是严格风险管控，例如在完整、全面的监管风险评估前禁止药品上市等，并对技术使用过程进行较强的穿透性监管。

以ChatGPT为代表的新型人工智能技术快速迭代并带来重重挑战的背景下，上述两种范式明显无法契合新技术治理的目标和诉求。这就需要一种新的治理范式：敏捷治理。

敏捷治理的核心是多方共治和反馈迭代：涉及复杂参与主体和利益相关者的治理场景依赖多方共同参与达成共识，而面对复杂多变的治理问题，无法事前得到完善的治理规则，需要在治理和技术迭代的共同实践中不断反馈更新治理框架。敏捷治理理念更为契合人工智能技术特点，能更有效地达到治理目标。

针对以ChatGPT为代表的新型人工智能技术带来的三大挑战，敏捷治理可以通过共同学习解决共同无知的问题，通过同行评议解决目标模糊的问题，通过反馈迭代解决关系依赖的问题。

共同学习可以充分考量各方的不同利益诉求，借鉴科学决策的方法，通过标准化的科学方式开展成本收益评估，运用比例原则避免治理手段的绝对化。

同行评议能够发挥专家知识的作用，评议本身属于探索性的柔性治理方式，其灵活性和专业性能够得到保障，评议过程中可以考虑运用监管沙箱等实验主义治理方式。

反馈迭代能够充分考虑实践中得到的有效信息，逐渐理清、拨开复杂的主体间依赖关系，明确治理问题及治理目标，充分发挥各方积极性，形成互信、合作、敏捷的治理共同体。

（本文根据2023年3月18日中国法学会网络与信息法学研究会第三次会员大会暨学术年会人工智能法治论坛发言内容整理）

END

编辑 | 斌卡（转载及媒体合作请评论区留言）

直播推荐