由阿里巴巴集团、中国电子技术标准化研究院、阿里云智能集团、达摩院联合编写的《生成式人工智能治理与实践白皮书》已经编写完成。
简介请点击👉《生成式人工智能治理与实践白皮书》抢先版发布!如何给生成式人工智能带好“安全带”？
现连载第二章《生成式人工智能的治理愿景和框架》👇
生成式人工智能产业的竞技式发展，已经引起了各国监管部门高度重视。在原有的监管框架下，各国纷纷针对生成式人工智能开展监管与治理的探索与思考。
2023年伊始，美国从人工智能生成物版权入手，探讨生成式人工智能的社会影响与意义，组织OpenAI等人工智能领军企业出席听证会，白宫也召开相关专题会议；3月末，意大利曾出台禁令限制ChatGPT使用并开展隐私安全性调查，随后，德国、法国、西班牙等也着手加强对AI聊天工具的监管；6月，欧盟《人工智能法案》进入谈判阶段，谈判文本尤其针对生成式人工智能强调确保透明度、平衡上下游供应商权责与利益；7月中旬，我国国家互联网信息办公室也针对生成式人工智能服务发布了《生成式人工智能服务管理暂行办法》。
作为数字战略的一部分，欧盟的人工智能治理围绕促进发展和使用展开，既推出产业发展政策，又同步推进监管规则制定。2018年4月，欧盟发布《欧盟人工智能战略》奠定了欧盟人工智能发展与治理的蓝图。2021年4月以来，欧盟致力于推动《人工智能法案》（AI Act）起草、修改和落地实施，2023年6月该法案已进入谈判阶段，预计年底成为正式法律，为人工智能治理提供“硬法”支持。美国强调监管的科学性和灵活性，以扫清人工智能技术应用的障碍、促进技术创新为宗旨，坚持监管的前提是鼓励人工智能的创新和发展。在生成式人工智能发展的刺激下，2023年5月，美国白宫发布《国家人工智能研发战略计划（2023版）》（NAIRDSP），在提出促进发展有效措施的同时，推动理解和解决人工智能的伦理、社会影响，以及通过政策、标准等手段引导人工智能系统的安全性。欧盟和美国都主张采用多元主体广泛、深度参与的模式，持续推动企业自愿治理标准和框架，使人工智能治理从政府主导向“政府+市场”协同模式转型。欧洲主要由政府全面立法企业参与，而美国则采取更宽松的模式即政府引导，主要靠市场自律，自我规制进行协同治理。在社会公众和监管部门对生成式人工智能的使用影响愈发关注的背景下，企业和科研机构加大人工智能治理活动的参与力度，逐渐从被动接受治理规则，到主动谋求制定规则。比如，电气和电子工程师协会（IEEE）商业委员会在2020年第一季度发布第一份题为《对企业使用人工智能的呼吁》的倡议，强调企业在人工智能治理中的主体作用。再比如，谷歌开源了一个数据集来帮助检测合成声音；Meta、Partnership AI和其他组织发起了深度伪造视频检测比赛；Anthropic、谷歌、微软和OpenAI宣布成立“前沿模型论坛”（the Frontier Model Forum）等。欧盟在《人工智能法案》中提出监管沙盒机制，即建立一个受控的环境，以在有限时间内测试创新性技术，进入数字创新中心，使用检测和实验设施，帮助创新型公司、中小型企业和初创企业在遵守法规的情况下继续创新，保证在不妨碍创新的情况下实现负责任研发。美国联邦政府避免一刀切式的过度干预，以不阻碍人工智能技术和产业发展、降低创新的门槛和成本为优先考虑。其政策把为人工智能应用创设“安全港”、监管例外、监管豁免等提到了很高的地位：一是允许为特定人工智能应用程序提供安全港的试点计划；二是采取成本效益分析，在对人工智能进行监管之前，充分考虑人工智能活动的利弊，并衡量风险、治理成本与效益的比重。标准化成为治理科技发展带来的风险与问题的重要手段，支撑各领域政策和法律的实施，起到顶层政策到产业实施的衔接作用。随着欧盟《人工智能法案》进入谈判阶段，欧洲面对内部统一市场任务，标准与其他监管规则的联动愈发紧密。首先，《人工智能法案》中尤其强调标准的两大作用，一是确保生成式人工智能系统透明度，二是平衡上下游供应商权责与利益。与此同时，依据《2023年欧洲标准化年度工作计划》，欧洲三大标准组织将人工智能标准化工作重点放在安全和可信的人工智能体系建设上，尊重欧盟认可的基本价值观和人权，加强欧洲竞争力。美国也加快了生成式人工智能标准化工作，促进治理方案落地。2023年6月，美国政府宣布成立由NIST领导的生成式人工智能公共工作小组（Generative AI Public Working Group），解决由生成式人工智能带来的挑战与机遇，加强人工智能可信赖水平，支持NIST制定相关指南，进行测试、评估和测量方面的工作，同步探索生成式人工智能技术用于解决健康、环境、气候变化等重大挑战的可能性。以大模型为代表的生成式人工智能掀起发展新浪潮，全球竞争格局加速演进，中美科技博弈日益激烈。在此重大战略机遇期，国家在高度重视人工智能技术创新发展的同时，统筹发展与安全，坚持发展与治理并重，发布了一系列法律法规、政策及标准，促进人工智能产业健康发展。 | 2.1 促进发展：对人工智能发展给予更多政策支持，配套发布一系列产业政策文件2017年7月，国务院公布了《新一代人工智能发展规划》，明确提出要对人工智能发展给予更多资金、政策支持，以及国家级的统筹规划。随后，陆续发布了一系列产业政策文件，包括《促进新一代人工智能产业发展三年行动计划（2018-2020）》《国家新一代人工智能创新发展试验区建设工作指引》《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》等，旨在引导和促进中国人工智能产业高质量发展。部分地方也出台人工智能产业促进文件，如《深圳经济特区人工智能产业促进条例》和《上海市促进人工智能产业发展条例》等。| 2.2 重视治理：确定了现阶段算法治理的重点场景，推动建立算法治理的“法治之网”在《网络安全法》《个人信息保护法》《数据安全法》等法律法规的基础上，陆续出台《关于加强互联网信息服务算法综合治理的指导意见》和《互联网信息服务算法推荐管理规定》等监管文件，逐步建立健全算法综合治理体系。随着生成式人工智能的快速发展，我国迅速出台相关监管规定，如《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，加强精细化治理与监管，坚持发展和安全并重、促进创新和依法治理相结合的原则，对生成式人工智能服务实行包容审慎和分类分级监管。2023年6月，国务院办公厅发布的《2023年度立法工作计划》已将人工智能法草案纳入其中，关于人工智能的整体立法工作也已启动。| 2.3 伦理约束：加强科技伦理治理顶层设计，明确人工智能伦理原则及治理要求在科技伦理方面，我国在逐步探索人工智能的基本伦理规范。2021年《关于加强科技伦理治理的指导意见》将“增进人类福祉”、“尊重生命权利”、“坚持公平公正”、“合理控制风险”和“保持公开透明”明确为科技伦理原则，并对创新主体、科研人员、科技类社会团体等在科技伦理治理的角色进行分别定义。随后发布的《新一代人工智能伦理规范》明确了基本伦理规范，并提出了一系列人工智能应用管理规范、研发规范、供应规范和使用规范。企业应重点关注算法、数据、服务等环节的研发规范与供应规范，保障人类拥有充分自主决策权，确保人工智能始终处于人类控制之下。
大模型技术的飞速发展掀起人工智能发展新浪潮，文字创作、逻辑推理、多模态融合等能力不断涌现，智能化程度实现质的飞跃，行业应用门槛不断降低，为高质量发展提供新的动能。生成式人工智能在广泛赋能人类社会的同时，对内容安全、个人信息保护、模型安全和知识产权等方面带来了不少新的风险与挑战。各国家和地区均致力于以前期的人工智能全局治理制度与规范框架为基础，完善生成式人工智能的专项顶层设计和治理方案，逐步细化法律法规、标准规范，由各大企业牵头积极落实，加快人工智能可信赖技术发展，初步形成政产学研用多主体协同共治的敏捷治理体系。在此背景下，本书围绕构建生成式大模型的算力、数据、算法、生态、人才等基础条件，以语言大模型和视觉大模型两类大模型为重点示例，结合以大模型为底座的生成式人工智能的技术及应用特点，针对生成式人工智能的全生命周期，总结分析相关风险产生的特点及原因，探索生成式人工智能不同阶段、不同类型风险的治理模式与方法。我们认为，生成式人工智能技术尚在发展中，使用的数据数量巨大且构成复杂，算法技术路线具有较高的不确定性，叠加深度神经网络模型的“黑箱”不可解释性，生成式人工智能逐渐放大了个人信息、内容安全、模型安全、知识产权相关风险，并衍生出更棘手的新型科技风险，带来了前所未有的治理挑战。综上，推动负责任的生成式人工智能研发及应用，推动其健康发展并更好地服务于人类社会，是智能时代的大势所趋。因此，生成式人工智能治理不能一刀切，需要针对全生命周期中各关键阶段的要求，建立健全包容审慎、动态敏捷的柔性治理机制，针对不同阶段、不同类型的风险进行针对性治理。同时，要围绕模型训练、服务上线、内容生成、内容传播、用户使用管理等关键环节，创新研发治理技术体系；营造政产学研用多主体协同共治的外部环境，提供生成式人工智能创新与良性发展的重要机制保障。
🌟 下期预告
第三章：生成式人工智能风险产生原因的分析
AAIG一直坚持长期主义，每年出品一本人工智能治理系列白皮书。我们会不断更新、精进，以确保白皮书能够紧跟时代发展的步伐，为读者提供更加专业、全面的治理建议。
点击阅读👉2022年《人工智能治理与可持续发展实践白皮书》
回复关键字【白皮书】一键下载电子版全文
📖2023生成式人工智能治理系列丛书
👇AAIG课代表，获取最新动态就找她 关注公众号发现更多干货❤️