礼德公告 | 欧盟人工智能立法取得突破性进展——欧洲议会通过《人工智能法案》草案

2023年6月14日，欧洲议会以投票方式通过了欧盟《人工智能法案》的授权谈判草案，其中499票赞成，28票反对，93票弃权。该法案旨在管理人工智能产生的风险，促进人工智能的合法利用，以保护个体的基本权益。

欧盟委员会于2021年4月发起了《人工智能法案》的提案，并在去年ChatGPT出现后加快了立法的步伐。欧洲议会将在未来几个月与欧盟委员会和成员国开展进一步协商，争取在年底确定《人工智能法案》的最终版本。《人工智能法案》有望在2026年生效，生效后将成为全球其他地区和国家人工智能相关立法的标杆。

《人工智能法案》根据风险等级对人工智能的应用采取了不同的监管要求。其中，部分高风险的人工智能技术被严格禁止使用，例如，不得在公共场所使用人工智能系统对自然人进行“实时”远程生物识别；不得在执法、边境管理、工作场所和教育机构运用人工智能技术检测个体的情绪、身体或生理特征；不得使用性别、种族、民族、宗教信仰、政治取向等特征对自然人进行分类等。

部署方在运用高风险人工智能系统前，应开展基本权利影响评估。评估内容包括使用人工智能系统的目的、时间和地理范围，受影响的相关个体和群体类别，使用该系统是否符合欧盟及成员国关于基本权利的法律，采用高风险人工智能系统对基本权利将会造成哪些可预见性的影响，以及采取何种解决方案去消除和降低不利影响等。在评估过程中，大型企业需要通知成员国的监管机构和利益相关方，并且应将相关团体代表的意见纳入考虑，而小型企业可自愿选择是否履行上述通知程序。如同时涉及个人信息影响评估，个人信息影响评估报告应作为人工智能影响评估报告的附件。

从著作权保护的角度，《人工智能法案》要求全面记录用于训练人工智能系统的作品，如文本、图像、音频或视频，并发布相关摘要，让内容创作者知晓其作品是否被用于训练算法，以防止其作品的著作权受到损害。

《人工智能法案》将可能具有域外效力，对在欧盟乃至全球市场开展相关业务的中国企业产生重大影响。根据该法案，公司若未能履行相关义务，将面临最高4千万欧元或全球年度营业额7%的罚款。

无独有偶，中国也在逐步加快人工智能的相关立法。2022年11月25日，网信办、工信部和公安部共同颁布了《互联网信息服务深度合成管理规定》，规定了深度合成服务提供者，技术支持者和使用者的合规义务以及算法备案要求。2023年4月1日，网信办发布了《生成式人工智能服务管理办法》的征求意见稿，规定了相关产品或服务提供者的法律义务，涉及内容合规、算法合规、知识产权合规和数据合规等多个方面。2023年6月6日发布的《国务院2023年度立法工作计划》提出，将预备提请全国人大常委会审议人工智能法草案，进一步加快了人工智能立法探索的步伐。

随着ChatGPT的火爆出圈，大量企业和投资机构纷纷涌入人工智能赛道。在全球监管态势趋严的大背景下，跨国公司和中国企业应重点关注其业务覆盖地区和国家的人工智能相关立法进展和执法动态，在推出相关产品和服务前充分了解运用人工智能的合规要求，进行必要的法律风险分析和评估，按照有关法律要求设计人工智能产品和服务，根据有关法规履行所需的评估或备案义务，并在提供服务过程中开展持续监督，避免因违反相关法规导致企业面临罚款、诉讼等法律后果和对企业形象造成的负面影响。

礼德律师事务所的科技/数据团队高度关注全球人工智能领域的立法和执法发展，在亚洲、欧洲、美国、中东等多个办公室拥有专业的人工智能、数据合规、隐私保护、投融资、争议解决等领域的团队，致力于为中国企业赴海外开展相关商业活动提供强有力的法律和合规支持。

如果您对此礼德公告有任何问题或想了解更多详情，请联系如下作者或与您经常合作的礼德律师。

本文作者

李晓蓓（Barbara Li）

礼德律师事务所北京办公室

合伙人

直线电话：[phone]

[e-mail]

熊倩（Sarah Xiong）

礼德律师事务所北京办公室

高级律师

直线电话：[phone]

[e-mail]

周蕴菁（Amaya Zhou）

礼德律师事务所北京办公室

律师

直线电话：[phone]

[e-mail]

推荐阅读

礼德公告 | 中国针对数据跨境流动中个人信息出境标准合同发布备案指南

礼德新闻 | 李晓蓓律师受邀参加IAPP网络研讨会，探讨个人信息跨境传输中国标准合同落地后企业应采取的行动

礼德公告 | 如何在移动和云技术场景下管理法律风险