如何应对人工智能技术带来的社会问题：一种社会实验方法

图片来源：央视《新闻1+1》栏目视频报道截图

导读

以人工智能为代表的变革性新兴技术快速发展与应用，深刻改变着人类生产生活方式与社会形态结构，也给人类社会的法律制度、伦理道德、治理体系等带来重大挑战。在人类社会迈向智能化的进程中，如何准确记录这些正在或即将发生的变革，研判和防范潜在风险，是科学研究需要面对的一项新议题。本文将介绍一种长周期、跨领域、多学科的人工智能社会实验研究方法。

全文共3600字，阅读约需要9分钟。

作者简介：

魏钰明，清华大学2020年研究生特等奖学金获得者，清华大学公共管理学院2015级直博生，导师为苏竣教授。主要研究方向为科技政策。聚焦人工智能等变革性技术的社会影响与治理问题，先后在Public Administration等中英文顶级期刊和会议发表论文多篇。本文将介绍他在探索人工智能社会影响与治理研究过程中的方法论创新成果，节选自清华大学苏竣教授团队在《中国软科学》期刊中发表的《社会实验：人工智能社会影响研究的新路径》。

与本文研究相关的主要学术贡献

近年来，人脸识别等人工智能技术的滥用，引发了社会各界对于数据安全、隐私风险等问题的普遍忧虑。Nature在2016年刊登的评论文章《人工智能研究中的盲点》指出，目前对于人工智能社会风险的防范和应对，主要依靠技术研发者与企业对于规则和伦理的自觉遵从，或是科学家们的预测和哲学思辨。而对于人工智能技术应用落地带来的真实社会影响的测量和分析，仍然是人工智能研究的“盲区”[1]。因此，需要利用跨学科、跨部门的方法，对人工智能从概念设计到部署管理的全生命周期的社会影响进行持续追踪和系统分析，为政府监管和治理提供及时、有效的信息反馈，推动技术发展路径的优化和完善。

我们的主要贡献在于，在传统社会实验方法的基础上，融合人工智能技术特征，提出了人工智能社会实验的循证研究方法和倡议。我们希望通过开展人工智能社会实验，为解决人类社会的“不适应”和“脆弱性”提供新的知识和证据，探索与中国国情相契合的技术发展路径和治理方案。

1.智能化时代社会面临的挑战

（1）技术复杂性与社会脆弱性

人工智能等变革性新兴技术正快速应用于人类社会的各个领域，给人类生活带来多重影响。人工智能包含的高度不确定性和风险及其对现有社会价值和机制的挑战，进一步凸显出智能化时代的技术复杂性和社会脆弱性。

作为一种使能技术，人工智能具有增强任何领域的技术的潜力。但与内燃机或电力的“使能”作用不同，人工智能是一个极其复杂的技术系统，其有效性建立在海量数据训练和算法设计之上。数据、算法作为人造的资源，它们的形成过程会嵌入不同组成要素、不同行动主体和不同的制度环境，使得人工智能的作用机理、社会影响都呈现出更加复杂的状态[2]。由此而导致的问题复杂性只能通过过程和程序的进一步复杂化才能被准确解决，这需要以更加系统、交叉的知识体系作为支撑。

与此同时，人工智能应用正快速推动人机互动的泛在化，进一步模糊虚与实的界限，重构传统基于人际互动而形成的组织与社会关系，给各行各业乃至整个社会运转模式带来颠覆性变革。信息茧房、劳动替代和新的数字鸿沟可能引发更加剧烈且难以弥合的两极分化。但由于人工智能的技术复杂性与应用场景的多样性，以及全球科技竞争中“保护主义”的抬头，国际社会尚未就合作发展、利用、治理人工智能等新兴技术达成共识，人类研判未来社会发展态势，预防人工智能社会风险的知识和能力明显不足。

新形势下，人类亟需补充“面向未来”的科学知识。目前，欧洲及美国相关地区已经开展“无条件基本收入”（Unconditional Basic Income）实验，在没有任何条件限制且不做资格审查的情况下，向受试社区的全体成员发放可以满足他们基本生活条件的金钱，试图探究人类因人工智能导致生产力极大提升，不再以有组织的劳动为第一需要后人们心理行为的变化和组织变革[3]。我们还需面向更加广泛的人工智能应用场景，在人工智能尚未对人类社会造成大规模不可逆影响的情况下，以小见大，提前关注技术应用可能引致的数据算法安全、技术适应、组织再造、社会风险与治理等各类问题，尽早形成对人工智能等技术社会影响特征与态势的系统性认识和前瞻预测，及时反馈于技术发展路径的优化，推动实现“技术向善”。

（2）技术与政策碰撞耦合中的新问题

智能化时代，科学技术与政策间的联系愈发紧密。“利用人工智能技术赋能政策工具和方案的创新，再通过政策创新实现对人工智能技术的引导和规约，从而进一步推动政策创新的优化完善”的智慧治理（Smart Governance）理念建构了技术与政策耦合的回路。

传统对社会现象的实验研究，往往将某种“技术示范”或“政策试验”作为干预条件，评估特定技术或政策引入社会的效果和影响。技术示范类的研究，主要从技术生命周期的视角，将示范看作是技术创新的一个阶段。示范的根本特性是展示新技术、新产品如何在一个正常的“真实世界”（Real-world）的环境下运行状况，检验的是技术经济效益和社会可接受度问题[4]。而政策试验类的研究，往往以政策评估为主要目的，聚焦于利用精巧的实验设计探究不同政策工具创新的实际效果和大规模推广的可行性。但它们都忽略了技术与政策碰撞耦合过程中的此消彼长以及由此产生的社会影响。

人工智能社会影响的研究，需要从企业、政府和社会公众三个维度，建立同时涵盖技术、政策等单维度观测指标和技术与政策的“耦合效应”（Coupling Effects）的系统化分析模型：不仅要从技术社会学（Sociology of Technology）的角度，关注人工智能技术应用的社会影响与潜在风险；也要从政策反馈（Policy Feedback）角度，关注人工智能技术治理的相关政策规范在试验过程中，来自社会的评价反馈及其对新政策制定和优化的启示；还要从技术与政策连结（Tech-policy Nexus）的角度，探索如何实现技术与政策最佳耦合的“智慧治理”，使人工智能技术在被用于政策创新和提升治理效率的同时能够充分保障政策的公平正义，推动更加广泛的公共价值的实现。

图1 人工智能社会影响研究的系统分析模型

（3）密集数据与智能算法融合的新方法

大数据智能、群体智能、跨媒体智能、人机混合智能、自主智能等技术的发展成熟，也为科学研究带来了更加丰富的数据资源和分析工具，推动着科学研究范式的转换。

2009年，《第四范式：数据密集型科学发现》（The Fourth Paradigm: Data-intensive Scientific Discovery）指出，在科技进步推动新一轮社会转型过程中，科学研究的方法正从实验型科研（Experimental Science）、理论型科研（Theoretical Science）、计算型科研（Computational Science）推进到数据密集型科研（Data-intensive Science）的新范式[5]。而智能算法的不断拓展，则为更精准地捕捉研究对象行为动态，开展大数据分析提供了技术支撑。

实验研究虽然在探究因果关系的效应（方向）与机制（过程）两个维度均具有独特优势，但也存在随机偏误、成本高企、伦理风险等缺陷。对人工智能等技术的社会影响研究，也需要充分利用密集数据与智能算法的融合，弥补研究方法上的不足，从而更全面、深入地理解研究对象的状态、特征，从中抽取出更加深刻的研究问题和更加精确的观测变量，提升研究设计的科学性。

2.什么是人工智能社会实验？

人类社会在深度信息化、智能化转型过程中面临的新形势、新问题和人工智能给科学研究带来的新资源、新方法、新工具，要求我们在继承“控制——对照——比较”研究逻辑的基础上，综合吸收不同学科实验设计的优势，对人工智能社会实验的内涵与研究路径进行丰富、完善和创新。

人工智能社会实验是指利用政府和市场的力量推动特定人工智能技术在社会治理中广泛应用，并通过建立实验组和对照组、科学抽样和伦理审查，将应用过程中产生的泛意性影响转变为内涵清晰、概念准确的可测度变量，采用科学的方法进行测量和数据处理，形成技术规范、技术标准、政策建议等反馈给技术研发者和政府相关部门，促进人工智能技术良性发展和国家治理体系和治理能力现代化的过程。

人工智能社会实验一般由三个阶段组成：

（1）组织应用。政府和市场联动，构建人工智能应用示范区，推动人工智能技术在某些领域、区域、行业形成应用，如城市大脑、乡村智治、智能教育、智能医疗、智慧环保等。这些应用场景不仅改变了社会的治理结构和运行机制，而且对参与者的行为轨迹、社会网络、心理动态等产生了影响，并进而影响社会个体的价值观和世界观。

（2）科学测量。研究者随机选取特定人工智能技术应用场景下的组织和个人作为实验组，同时选取未被该人工智能技术影响的组织和个人作为对照组，通过文献梳理和理论对话，以及对相关研究场景的扎根研究，将人工智能可能引致的社会影响，如组织和个人运转模式、行为轨迹、社会网络、心理动态等泛意性概念，转变为经济收入、出行方式、机构调整、公众满意度、技术接受度等可测量的数据指标，依据科学、规范的社会科学测量手段，综合利用观察记录、问卷调查、大数据捕捉与社会计算等方法，进行数据收集和处理，采用回归、匹配等统计方法确立影响机制和模式，厘定各种影响因子，揭示背后的作用机制。

（3）综合反馈。研究者综合技术发展可能、社会个体的接受程度、经济文化环境等因素，形成技术标准、技术规范、政策建议等，反馈给技术研发者和政府实践应用部门，保障相关治理措施的跟进，以降低人工智能技术发展过程中的不适应性，促进人工智能技术良性发展，提升治理体系和治理能力现代化。人工智能社会实验基本研究路径和关键要素如图2所示。

图2 人工智能社会实验的基本研究路径

3.人工智能社会实验的价值与意义

在科技发展引领社会变革的时代背景下，以科学的态度方法来应对社会重大问题愈加重要。开展人工智能社会实验，有助于将我们对科学技术发展技术性的认识延伸到社会性的认识，让我们从关注技术对客观世界生产力的改变，上升到关注技术对人类主观世界的深层改变，进一步扩展人类对科学技术本质规律的认知，提升科学技术的“人文温度”。

当前，我国多个地区已经结合本地区产业优势、技术优势，深入布局人工智能应用实践，着力打造国家级开放创新平台、探索建立新一代人工智能创新发展试验区。我国已在人工智能领域形成了数据资源丰富、应用场景广阔的先发优势。开展人工智能社会实验，利用好我国的优势，加强人工智能的社会影响机理、规律与趋势研究，形成对技术、产业与社会的反向回馈，为人工智能技术发展路径的优化和治理政策的完善提供科学的、第一手的理论参考和实践经验，是国家治理体系和治理能力现代化的重要内容。

对人工智能社会影响的研判与应对，也是全世界的共同关切和新时期全球治理的重大命题。站在人类文明进程的高度，本着为人民谋福祉的宗旨，以社会实验为支点，在全球率先开展人工智能社会影响与适应性的深度研究，为人才、技术在全球的交流沟通搭建新的渠道和平台，为社会各界合作应对人类共同的挑战提供支持，有利于展现中国开放包容的态度，在当前逆全球化趋势愈演愈烈的情况下，用中国负责任的大国形象，引导国际社会回归正确的价值导向。

参考文献

[1] Crawford K, Calo R. There is a blind spot in AI research [J]. Nature, 2016, 538(7625): 311-313.

[2] 黄萃, 彭国超, 苏竣. 智慧治理 [M]. 北京: 清华大学出版社, 2017.

[3] Furman J, Seamans R. AI and the Economy [J]. Innovation Policy and the Economy, 2019, 19(1): 161-191.

[4] 苏竣. 公共科技政策导论 [M]. 北京: 科学出版社, 2014.

[5] Hey T, Tansley S, Tolle K. (2009). The Fourth Paradigm: Data-intensive Scientific Discovery [C]. Redmond: Microsoft Research.

文稿｜魏钰明

编辑｜陈旭佳 高松龄 周圣钧 李艳文 邱雨浩

审核｜赵　鑫 张可人