EDPS：欧洲委员会《人工智能公约》谈判应当加强基本权利保护

【按语】在《意见》中，欧洲数据保护专员（EDPS）就欧洲委员会关于人工智能、人权、民主和法治的公约(《人工智能公约》)开始谈判。EDPS认为，该公约是一个重要的机会，可以根据欧盟关于人权、民主和法治的标准和价值观，制定第一个具有法律约束力的人工智能国际公约。为此，公约应包括适当、有力和明确的保障措施，以保护可能受到使用人工智能系统影响的个人。因此，EDPS就欧盟关于《公约》的谈判方向提出三点主要建议。—— 吴沈括，北京师范大学法学院博士生导师、中国互联网协会研究中心副主任。

编译|

北京师范大学 范思琪

欧洲数据保护专员EDPS：

欧洲委员会《人工智能公约》谈判应当加强基本权利保护

背景说明

议题：

人工智能

    相关规定：

(a).第2018/1725号条例(欧盟)【Regulation (EU) 2018/1725】规定了欧盟机构的数据保护规则以及欧洲数据保护专员(EDPS)的职责；(欧盟)第2018/1725号条例第42条规定了EDPS的立法咨询权，该条例要求欧盟委员会就所有可能影响个人数据处理的立法提案和国际协定咨询EDPS。这一义务也适用于执行和授权法案草案。发布EDPS意见的法定期限是8周；

(b).《人工智能法》: 2021年4月21日，欧盟委员会提交了其关于欧洲议会和理事会制定人工智能统一规则的提案。EDPS和欧洲数据保护委员会(EDPB)对此提案发表了联合意见。

    相关部门：

EDPS是独立的监管机构，负责监督欧盟机构和团体对个人数据的处理，就影响隐私的政策和立法提出建议，并与类似机构合作以确保一致的数据保护。其使命也是提高风险意识，并在处理个人数据时保护人们的权利和自由

    相关人员：

Wojciech Wiewiórowski (EDPS)由欧洲议会和理事会联合决定任命，任期五年，从2019年12月6日开始任命。

事件起因

在2022年10月13日发表的《观点（opinion）》中，EDPS欢迎就欧洲委员会关于人工智能、人权、民主和法治的公约(《公约》)开始谈判。EDPS认为，该公约是一个重要的机会，可以通过加强对个人基本权利的保护，以此来补充欧盟委员会拟议的《人工智能法》，例如隐私权和个人数据保护权。

主要观点 

欧洲数据保护专员（EDPS）Wojciech Wiewiórowski表示:“该公约是一个机会，可以根据欧盟关于人权、民主和法治的标准和价值观，制定第一个具有法律约束力的人工智能国际文书。为此，公约应包括适当、有力和明确的保障措施，以保护可能受到使用人工智能系统影响的个人"。因此，EPDS就欧盟关于《公约》的谈判指令提出以下主要建议： 

第一，总体目标应优先考虑向可能受到人工智能系统使用影响的个人和个人群体提供的保护措施和权利保障。为了确保对个人及其权利的保护，谈判指令应旨在使《公约》与欧盟现有的数据保护法律框架保持一致。

第二，应该禁止对个人造成不可接受的风险的人工智能系统。更具体地说，人工智能应用于:个人的社会评分；公共场所中个人的生物特征识别；根据生物特征数据(如种族)对个人进行分类。默认情况下，应该禁止根据个人感知的情绪对其进行分类；影响个人享有人类尊严的权利的人工智能系统也应被禁止。这些情况应被明确列入谈判指令中。

第三，应该监控人工智能系统的使用，监控这些系统如何工作，洞悉它们带来的风险，是至关重要的。EDPS建议谈判指令旨在提供最低限度的程序保障措施，以保护可能受到使用人工智能系统影响的个人。这些保障措施应该确保人工智能系统的使用是透明的，可以向监督机构和个人清楚地解释，并且可以定期进行审计，以限制这些工具可能带来的风险。还应建立遵约和控制机制，以及《公约》缔约方设计的主管当局之间的跨境合作，以监督人工智能的使用，并保护个人及其基本权利。

补充信息：

欧洲数据保护专员(EDPS)

欧洲数据保护监管专员(EDPS)是保护个人数据权和隐私权，以及促进欧盟机构和团体的友好交往的独立监管机构。

它通过以下方式做到上述职能：

a.监测欧盟行政当局对个人数据的处理

b.监测影响隐私和个人数据保护的政策和立法的技术发展并提出建议

c.以数据保护审计/检查的形式开展调查

d.与其他监管机构合作，确保个人保护的一致性

— END — 

数字治理全球洞察 | 全球数字治理前沿系列：
美国要求互联网公司研发针对中国电信设备的攻击武器 外交部回应“中国+中亚五国”数据安全合作倡议
前沿瞭望|美国首次公布联邦《数据隐私与保护法案》（全文）
动向|美国推动的"印太经济框架" 想做什么？动向|拜登宣布启动"印太经济框架" 日韩澳印等13国加入洞察|欧盟-美国有关未来数字治理的立场异同欧洲EDPS与EDPB关于欧盟数据法案的联合意见（5月5日）
高端视野|吴沈括 李涛：流量劫持的的刑法应对
吴沈括|数据要素市场建设中的公共数据与政企合作吴沈括|欧盟2022年《数字服务法案》：平台新治理的欧洲样板
吴沈括|欧盟2022年《数据治理法案》：数据要素流转利用的欧洲方案
美欧就跨大西洋数据隐私框架达成原则性协议（含监管历史演进梳理）光明网 | 吴沈括：强化数字安全助力数字经济高质量发展重磅|欧盟《数据法案》（Data Act）草案（中译本）重磅|欧盟《数据法案》（Data Act）草案全文
高端视野|吴沈括 Deuse Clément：欧盟数字主权与《数据法案》立法进程高端视野 | 吴沈括 S. Boutillier：网络空间国际规则与《巴黎倡议》高端视野|吴沈括 L. Valenti：数据跨境调取与布达佩斯公约第二补充议定书高端视野|吴沈括 H. MANZOOR：数字安全与联合国打击网络犯罪公约高端视野|吴沈括 Elena Scarpelli：欧盟数据主权与《电子证据条例》立法高端视野|吴沈括 Andrea Fusi：欧盟数字转型与《数字权利和原则宣言》高端视野 | 欧盟委员会《欧洲数据治理条例》提案研究数字治理全球洞察 | 跨境数据治理前沿系列：数据跨境|拜登《关于加强美国信号情报活动保障的行政命令》（中译本）高端视野|吴沈括 孙鹏程：《数据出境安全评估办法》下的出境合规准备工作重磅 | 国家互联网信息办公室《数据出境安全评估办法》（全文）
重磅 | 国家互联网信息办公室公布《数据出境安全评估办法》（附答记者问）
速递|欧洲数据保护委员会关于欧美跨大西洋数据隐私框架协议的声明动向|欧盟与美国有望在2022年春季达成新的数据跨境传输协议高端视野|吴沈括 蔡佩原：欧盟《数据法案》（草案）的非个人数据跨境制度高端视野 | 吴沈括 邓立山：WTO框架下的数据跨境规则研究高端视野 | 吴沈括 邓立山：OECD框架下的数据跨境规则研究高端视野 | 吴沈括 邓立山：DEPA框架下的数据跨境规则研究
高端视野 | 吴沈括 邓立山：G20框架下的数据跨境规则研究
高端视野|吴沈括 邓立山：CPTPP框架下的数据跨境规则研究
高端视野|吴沈括 邓立山：RCEP框架下的数据跨境规则研究
高端视野 | 吴沈括 邓立山：APEC框架下的数据跨境规则研究高端视野|吴沈括 邓立山：APEC框架下关于数据跨境的CBPR规则研究数字治理全球洞察 | 数据治理前沿系列：EDPB：执法资源不足导致个人数据保护的监管面临风险
速递|印尼国会审议通过《个人数据保护法》高端视野|吴沈括:《企业涉个人信息刑事风险合规风控》研究报告重磅|中央深改委通过《关于构建数据基础制度更好发挥数据要素作用的意见》
瞭望|英国公布2022年《数据改革法案》具体计划 称为“脱欧后的胜利”数据执法|法国数据监管机关：对谷歌分析工具的整改不会让它变得合法高端视野 | 跨国企业数据保护官（DPO）设置研究（上篇）国家市场监督管理总局 国家互联网信息办公室关于开展数据安全管理认证工作的公告观点|阻碍医疗数据研究革命的是法律问题，而不是基础设施
检察日报|吴沈括 李涛：数字经济语境下流量劫持的刑事治理数据监管|匈牙利就AI数据处理侵权对布达佩斯银行科处高额罚款数据监管|法国数据保护机关就健康数据泄露处罚生物公司150万欧元
欧洲数据保护委员会（EDPB）关于执法合作的声明（4月28日）
速递|欧洲数据保护委员会关于比利时数据保护机关独立地位的质疑关切数据监管|芬兰数据保护机关因诊所实现数据主体权利不力科处行政罚款数据监管|欧洲数据保护专员（EDPS）：是时候瞄准在线广告了！数据监管|爱尔兰数据保护委员会宣布对Meta(脸书)处罚1700万欧元数据监管|意大利数据保护机关就面部识别处罚美国Clearview公司2000万欧元数据监管|波兰数据保护机关就员工造成数据泄露对公司处以创纪录罚款数字治理全球洞察 | 网络安全治理前沿系列：英国延后华为临时禁令 但2027年底前全面移除5G设备不变
美国网络安全禁令生效，限制向中国等国家共享网络漏洞重磅|欧盟委员会2022年《网络安全条例》提案（全文）重磅|欧盟委员会2022年《信息安全条例》提案（全文）数字治理全球洞察 | 网络平台治理前沿系列：EDPB通过有关TikTok的法律文书 TikTok停更个性化广告的法律基础重磅|国家广电总局、文旅部《网络主播行为规范》（全文）
重磅|中央深改委：将平台企业支付和其他金融活动纳入监管 服务实体经济
国家网信办《互联网跟帖评论服务管理规定（修订草案征求意见稿）》（全文）全国人大常委会法工委披露反垄断法、反电信网络诈骗法二审稿修改内容
重磅|国家网信办修订发布《移动互联网应用程序信息服务管理规定》（全文）
数字治理全球洞察 | 数字政府治理前沿系列：重磅|国务院《关于加强数字政府建设的指导意见》（全文）数字治理全球洞察 | 未成年人保护前沿系列：光明网|吴沈括：未成年人网络保护面临技术、组织、内容三重风险
数字治理全球洞察 | 电信网络诈骗治理前沿系列：吴沈括 黄诗亮|《反电信网络诈骗法》的治理要旨与合规启示英译本|《中华人民共和国反电信网络诈骗法》（全文）重磅|《中华人民共和国反电信网络诈骗法》（全文）重磅 | 《反电信网络诈骗法（草案二次审议稿）》（全文）数字治理全球洞察 | 数据跨境取证前沿系列：重磅|司法部明确涉诉数据信息的跨境调取规则数据跨境取证|吴沈括 蔡佩原：英国-美国《数据访问协议》中译本（2022-10-03施行）数字治理全球洞察 | 数据认证前沿系列：吴沈括 周奕达|美国TRUSTe企业隐私认证的机制概要与价值启示前沿|EDPB批准德国州数据保护机关有关数据保护认证计划的意见数字治理全球洞察 | 数据要素市场前沿系列：数据要素立法|《陕西省大数据条例》（全文）

图文编辑：北京师范大学 佘政安