动态观察 | 主要国家和地区AIGC监管动态汇总

全文约3500字，预计阅读时间20分钟

文|王金钧 中国信息通信研究院互联网法律研究中心助理研究员

    侯文兴 中国信息通信研究院互联网法律研究中心实习生

01

3月30日，意大利数据保护机构The Garante展开调查后发布公告，宣布暂时封锁ChatGPT。当局同时怀疑OpenAI在其人工智能应用程序中违反了数据收集规则。

首先，监管机构声称ChatGPT “没有任何法律依据证明大规模收集和存储个人数据是合理的，以便 '训练' 支撑平台运营的算法”。其次，ChatGPT 提供的信息并不总是与真实数据相对应，因此确定了其对个人数据的不准确处理。最后，尽管根据 OpenAI 发布的条款，该服务针对的是 13 岁以上的人，但管理局指出，由于没有任何用于验证用户年龄的过滤器，未成年人在发展程度和自我意识方面会面临绝对不合适的答案。

OpenAI在欧盟没有办事处，但已在欧洲经济区任命了一名代表，必须在20天内传达其为遵守意大利CNIL的要求而采取的措施，将被处以最高20万欧元的罚款或最高4%的全球年营业额。

4月12日，该监管机构要求Open AI在4月30日之前遵守特定的隐私要求，为解除聊天机器人在该国的临时禁令铺平道路。

在进行调查的同时，意大利监管机构命令Open AI在使用AI聊天机器人之前验证用户的年龄，并在其网站上解释它如何以及为什么为ChatGPT处理人们的数据。美国公司必须征得用户的同意或合法利益才能使用他们的数据，并使人们可以要求更正或删除他们的个人数据。

OpenAI还必须在5月14日之前通过意大利电视，广播，网站和报纸开展信息活动，以告知人们如何使用他们的个人数据来训练其ChatGPT算法。

OpenAI还必须在5月31日之前提交一份详细的计划，该计划旨在于9月之前实施一个可靠的系统，以确保13岁以下的未成年人在未经父母同意的情况下无法访问ChatGPT。

参见：

1.https://www.politico.eu/article/chatgpt-italy-lift-ban-garante-privacy-gdpr-openai/

2.https://www.zdnet.fr/actualites/chatgpt-les-premieres-plaintes-francaises-enregistrees-par-la-cnil-39956702.htm

3.https://www.gpdp.it/web/guest/home/docweb/-/docweb-display/docweb/9870847

02

3月30日，科技伦理组织“人工智能和数字政策中心”提起投诉，要求美国联邦贸易委员会阻止OpenAI发布GPT-4的新商业版本。该组织在其网站上称GPT-4“有偏见、欺骗性，对隐私和公共安全构成风险”，同时称 OpenAI的ChatGPT-4未能达到联邦贸易委员会的标准，即“透明、可解释、公平、合理及可问责”。

参见：

https://www.reuters.com/technology/us-advocacy-group-asks-ftc-stop-new-openai-gpt-releases-2023-03-30/

03

4月3日，英国信息专员办公室（ICO）监管风险执行主任 Stephen Almond 发布了针对开发或使用生成式人工智能的指南。Almond 还概述了 ICO 将重点关注的八个领域：

1. 处理个人数据的合法依据；

2. 身份是控制者、联合控制者还是处理者；

3. 数据保护影响评估 (DPIA)；

4. 确保透明度；

5. 降低安全风险；

6. 限制不必要的处理；

7. 遵守个人权利请求；

8. 是否使用生成式 AI 来做出完全自动化的决策。

参见：

https://ico.org.uk/about-the-ico/media-centre/news-and-blogs/2023/04/generative-ai-eight-questions-that-developers-and-users-need-to-ask/

04

4月4日，加拿大隐私专员办公室宣布将对OpenAI展开调查，再次涉及个人信息。该机构表示，隐私专员办公室对OpenAI的调查是为了回应“指控未经同意收集，使用和披露个人信息的投诉”。

参见：

https://www.todayonline.com/world/canada-opens-investigation-ai-firm-behind-chatgpt-2144946

05

4月6日，据法新社报道，法国至少有两起关于针对OpenAI公司及ChatGPT使用个人数据的投诉。这两起投诉由法国数据监管机构CNIL受理。

第一起投诉是由Janus International数字意识协会主席Zoé Vilain律师提出的。“我们不反科技，但我们想要合乎道德的技术，”Zoé Vilain解释说，她在美国公司OpenAI的网站上创建了一个帐户，以便使用ChatGPT，但她注意到没有 “一般使用条件”和“任何隐私政策”。因此，投诉要求CNIL帮助其行使访问OpenAI所收集的个人信息的权利。

第二起投诉是由David Libeau提出的，是一位非常注重个人数据保护的开发商。他在投诉中提到，他通过向 ChatGPT 询问他的个人资料发现了有关他的个人信息。“当我要求更多信息时，算法开始伪造信息并认为我将创建了网站或参加了某个抗议组织，而这些信息是完全错误的。”David Libeau认为，这违反了GDPR第5条，根据该条，有关个人的信息必须准确，并且任何数据处理都必须公平。

参见：

https://www.zdnet.fr/actualites/chatgpt-les-premieres-plaintes-francaises-enregistrees-par-la-cnil-39956702.htm

06

4月11日，美国商务部下属的国家电信和信息管理局 (NTIA)正在就人工智能系统的潜在问责措施征求公众意见，旨在采取措施来保证“人工智能系统是合法的、有效的、合乎道德的、安全的，并且在其他方面值得信赖。” 征求意见包括34项具体问题，涉及以下主题：

1.人工智能开发公司及其企业客户应该进行什么样的信任和安全测试。

2.进行审计和评估需要什么样的数据访问。

3.监管机构和其他参与者如何激励和支持人工智能系统的可信保证以及其他形式的问责制。

4.不同行业可能需要哪些不同的方法——如就业或医疗保健。

参见：

1.https://ntia.gov/sites/default/files/publications/ntia_rfc_on_ai_accountability_final_0.pdf

2.https://ntia.gov/press-release/2023/ntia-seeks-public-input-boost-ai-accountability

07

4 月 11 日——西班牙数据保护机构已要求欧盟隐私监管机构评估 OpenAI 的 ChatGPT 的隐私保护水平。

参见：

https://www.reuters.com/technology/spains-data-regulator-asks-eu-data-protection-committee-evaluate-chatgpt-issues-2023-04-11/

084月13日，欧盟EDPB 成员讨论了意大利数据保护机构最近针对Open AI 就聊天 GPT 服务采取的执法行动。EDPB 决定成立一个专门的工作组来促进合作，并就数据保护机构可能采取的执法行动交换信息。

参见：

https://edpb.europa.eu/news/news/2023/edpb-resolves-dispute-transfers-meta-and-creates-task-force-chat-gpt_en

09

4月13日，据Axios报道，美国参议院多数党领袖Chuck Schumer 正在采取措施，制定监管人工智能技术的立法。美国不想落后于其他国家，特别是中国，希望在开发技术和制定规则方面处于领先地位。消息人士称，立法目标是制定有弹性的法规，以适应人工智能技术的进步，并在安全、问责制和透明度的需求与促进创新之间取得平衡。

国会的潜在法规将侧重于四个旨在确保负责任的人工智能的原则，要求：

1.识别谁训练了算法以及谁是目标受众。

2.披露数据来源。

3.解释它如何得出相应结果。

4.透明和严格的道德界限。

Schumer计划在接下来的几周内根据学术界、行业和政府专家的意见来完善他的提案。

除此之外，美国商务部开始采取措施制定人工智能安全规则，美国国家标准与技术研究院今年早些时候推出了《人工智能风险管理框架》，白宫科技政策办公室也发布了《人工智能权利法案蓝图》。

参见：

https://www.axios.com/2023/04/13/congress-regulate-ai-tech

END

往期精彩回顾