中国信通院发布《人工智能治理蓝皮书（2024年）》
近年来，人工智能技术颠覆性、跨越式突破引发通用人工智能新一轮发展热潮，全球人工智能行业实现高速增长。与此同时，人工智能引发的模型安全、劳动替代、能源消耗、生存性风险等问题凸显，全球人工智能治理进入规则构建的关键阶段。深入分析人工智能治理核心议题趋势动态，研究各国人工智能治理模式和实践经验，对于推动形成健康有序、包容普惠的人工智能发展环境、推进人工智能治理国际合作至关重要。
2024年12月27日，中国信息通信研究院（简称“中国信通院”）在“2024人工智能赋能新型工业化大会”上发布了《人工智能治理蓝皮书（2024年）》。中国信通院政策与经济研究所副所长、人工智能产业发展联盟政策法规工作组组长张春飞对报告进行了深入解读。
报告在“以人为本、智能向善”的理念指引下，基于产业链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了“1244”人工智能治理总体框架，对人工智能治理作全景式呈现，力求全面性、系统性、前瞻性。中国信通院持续跟踪人工智能治理焦点议题和趋势进展，期待为推进各方交流讨论、促进合作共赢贡献绵薄之力。
蓝皮书主要内容
1. 全球人工智能治理面临复杂多变新形势。全球人工智能行业实现高速增长，在产业规模、投融资、企业数量等方面表现明显，具身智能、数字人等人工智能应用将驱动下一轮产业洗牌。通用人工智能技术飞速跃迁敲响安全警钟，幻觉难消除、场景难限定、责任难追溯等特性放大了虚假信息、隐私侵犯、网络犯罪等现实风险。同时，全新的人机交互模式开启了“人类外脑”时代，在未来发展中可能引发情感依赖、劳动替代、生存性风险等方面的人机伦理风险，不断挑战政府传统监管模式、加剧国际合作协调难度、考验供应链主体自治能力。
2. 报告提出人工智能治理框架体系。本报告从新技术革命引发的经济社会发展变革和历史经验出发，在“以人为本、智能向善”理念指引下，基于供应链条、价值链条、全生命周期链条等底层逻辑，从What、Why、Who、How四个维度搭建了人工智能治理体系框架。在梳理人工智能概念分歧、人工智能风险谱系基础上，框架从安全和发展两个维度提出四组议题，提出“要素+场景治理”“基于风险的全生命周期治理”“包容性治理”等理念思路，力求框架的全面性、系统性和前瞻性。
来源：中国信通院
3. 总结提炼人工智能重点议题进展及趋势。安全侧来看，安全可控是人工智能治理的底线基础，强调全生命周期逻辑下制度回应和技术治理并进的思路，亟需对透明度、监管沙箱、红队测试、评估评测等制度、技术工具细化落地；伦理先行是人工智能治理的价值导向，需关注通用人工智能等技术发展带来的人类主体性危机，提前研判人工智能对人类生活、生产乃至生存问题带来的冲击。发展侧来看，负责任创新是人工智能治理的源头根本，国际社会共同探索应对算力供给不平衡、高质量数据集建设、开源模型生态治理等问题解决方案，为人工智能创新发展提供要素支撑；可持续发展是人工智能治理的终极要求，应围绕经济、社会和环境三个维度，协力应对数字鸿沟、能源短缺等问题，支持发展中国家开展能力建设，推动联合国2030年可持续发展目标实现。
4. 多元主体协同推进人工智能治理进程。主要经济体人工智能治理模式初具雏形，在监管模式、治理重点、实践策略等方面日益成熟完善。企业主体、专业机构、产业联盟等主体各展所长，在安全技术研发、资源共享等方面发挥关键作用。大国间围绕人工智能安全合作共识初建，各方在议程设置、规则塑造等多方面进程提速，联合国系统积极酝酿新的人工智能治理协调机制，各双多边机制推动高层次承诺向可执行政策落地。
蓝皮书目录
一、人工智能治理面临复杂多变新形势
（一）人工智能行业高速增长，商业生态分化形态初现
（二）人工智能技术深刻变革，挑战政府传统监管能力
（三）国际合作取得关键成果，各国治理共识差异并存
（四）人工智能技术风险加剧，亟需搭建完善治理框架
二、人工智能治理的核心议题进展及趋势
（一）基于产业链的治理：全要素推进负责任创新
（二）确保技术普惠共享：多维度促进可持续发展
（三）制度技术治理并进：全生命周期确保安全可控
（四）人机关系如何重塑：新型风险中推动伦理先行
三、多元主体协同推进人工智能治理进程
（一）主要经济体政府监管模式各异，规则落地取得实质进展
（二）企业和专业机构等主体创新探索，形成协同共治生态圈
（三）国际人工智能治理日益深化，三大维度热点持续深化
四、人工智能治理对策建议
（一）深化落地人工智能协同敏捷治理模式
（二）系统监测预警人工智能伦理社会影响
（三）围绕要素和场景细化负责任创新方案
（四）立足于全生命周期优化安全技术工具
（五）加速落地全球人工智能能力建设方案
主要专家简介
中国信通院政策与经济研究所监管研究部主任工程师，博士
程莹
中国人工智能产业发展联盟政策法规工作组秘书长。长期从事人工智能治理、平台治理领域研究和政府支撑工作，主持或参与工信部、国务院发展研究中心等重大课题10余项，曾在《法律科学》等期刊发表论文十余篇，出版个人专著《人工智能时代欧盟个人数据保护研究》，主持撰写《算法治理蓝皮书（2022）》《大模型治理蓝皮报告（2023）》等成果。
中国信通院政策与经济研究所工程师，博士
刘志鹏
北京市场监管专家库、中国人工智能产业发展联盟政策法规工作组成员。主要从事对人工智能、互联网平台、数据要素的治理研究，主持或参与工信部、国家社会科学基金等多项重大课题研究，支撑工信部、发改委、网信办等多部委政策文件起草，发表学术论文10余篇，参与相关编著、专著2本。
中国信通院人工智能研究所工程师
呼娜英
中国人工智能产业发展联盟人工智能安全治理委员会治理组组长。具备中国及美国纽约州律师职业资格。从事人工智能安全治理、风险管理、个人信息保护等领域研究。牵头或参与编写世界互联网大会《发展负责任的生成式人工智能研究报告及共识文件》、中国信通院人工智能相关研究报告。
中国信通院政策与经济研究所工程师
谭俊
主要从事人工智能治理、个人信息保护等领域研究，深度支撑工信部、发改委等人工智能治理领域政策研究与制定工作，参与人工智能领域多项重大课题研究。
其他参与撰写专家
钱悦 中国信通院政策与经济研究所工程师
王冰心 中国信通院政策与经济研究所工程师
秦越 中国信通院政策与经济研究所工程师
施羽暇 中国信通院政策与经济研究所高级工程师
端晨希 中国信通院政策与经济研究所工程师
陈文弢 中国信通院人工智能研究所工程师
张津铭 中国信通院人工智能研究所工程师
梁润雪 中国信通院数据研究中心工程师
更多精彩，敬请阅读解读PPT。
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
版权声明：本蓝皮书版权属于中国信息通信研究院，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院”。违反上述声明者，本院将追究其相关法律责任。
撰写团队联系方式：
中国信通院
政策与经济研究所
程莹
18500614151
chengying@caict.ac.cn
点击“阅读原文”，下载报告。
校 审 | 谨 言、珊 珊
编 辑 | 凌 霄
推荐阅读
专家谈