欧洲简评 | 德国DSK发布《人工智能与数据保护指南》，给LLM和AI又提了哪些新规定？

团队介绍：

W&W国际法律团队，国内外一站式法律合规顾问

W&W 国际法律团队已为超过50+头部与知名互联网公司、500强企业、大中型外资企业、独角兽企业提供专业的法律合规服务和落地解决方案。为多个产品及业务线落地互联网综合合规、国内外数据合规及出海合规法律项目。特殊行业覆盖前沿科技领域，如AIGC、区块链、GPT、云计算等新兴领域、智能网联汽车与车机系统、智能制造业与物联网。涉及业务地区为国内、欧洲、北美、亚太、中东等地区。

（如有项目需求或了解代表案例，欢迎联系。）

联系方式：

邮箱：[e-mail]

TEL：[phone]

文/ 王捷律师团队 

引言

鉴于当前世界各国在科技与网络领域的监管呈现复合型趋势，W&W地区观察专题将触及个人信息保护、数据合规、网络安全、人工智能、数字经济等板块，跟踪并解读全球主流出海目标国在上述领域中的立法、监管动向，提示企业合规要点，为企业开展出海业务、部署国内合规工作提供参考。

01

背景

01

2024 年 5 月 6 日，德国数据保护大会（DSK）发布了《人工智能与数据保护指南》（以下简称《指南》）。指南重点关注大型语言模型（LLM），但不排除其在其他人工智能（AI）应用中的可能应用。

该指南包括面向人工智能应用的部署者，也间接面向人工智能系统的开发商、制造商和提供商。

02

使用和选择人工智能应用程序的概念

02

指南概述了人工智能应用程序的部署者必须确定其应用领域和服务目的。部署者必须考虑：

• 人工智能应用程序的应用领域的合法性；

• 处理个人数据；

• 人工智能应用程序的训练符合数据保护规定；

• 处理的法律依据，这取决于部署者是公共机构还是非公共机构，以及应用领域，如人力资源、医疗保健或消费者或服务合同领域的处理；

• 人工智能应用程序开发的建议被用作对个人具有法律效力的决策的主要依据，从而导致违反GDPR第 22 条；

• 人工智能应用可以是封闭系统或开放系统的一部分（即是否为受限制和技术封闭环境的一部分）；

• 满足 GDPR 规定的透明度要求，包括输入和输出历史，以及不将数据用于培训的选择；

• 为个人提供数据主体权利，特别是更正和删除的权利；以及

• 数据保护官（DPO）和员工代表参与有关人工智能应用的决策。

03

人工智能应用的实施

03

指南规定，人工智能应用程序的部署者必须：

• 界定责任并对其进行约束性管理，包括与外部提供商和联合控制方的责任；

• 发布和记录内部规定，确定使用人工智能应用程序的条件和具体目的；

• 在处理个人数据前进行数据保护影响评估 (DPIA)；

• 为员工专业使用人工智能应用程序提供设备和账户；

• 在设计人工智能系统时，通过设计和默认方式考虑数据保护原则；

• 除了 GDPR 第 25 条和第 32 条规定的技术和组织措施外，还要满足适用于 IT 系统的要求；

• 通过提供培训、指导和讨论提高认识；以及

• 监测未来的法律和技术发展。

04

人工智能应用程序的使用

04

指南强调，人工智能应用程序的部署者在输入和输出个人数据以及特殊类别的个人数据时必须特别小心。此外，部署者必须检查结果是否不准确和是否存在歧视性影响。

05

企业应该怎么做？

05

指南主要针对人工智能应用的部署者，也间接面向人工智能系统的开发商、制造商和提供商，该指南侧重于人工智能利用的三个阶段——选择/规划阶段、实施阶段和企业积极使用人工智能应用的生产阶段。尽管该指南没有明确回应围绕人工智能使用的主要数据保护争议，但文件中也提出将来会进一步说明这些规定，企业在组织内部署人工智能系统时，可以将本指南视为其总体人工智能战略和治理计划中的一环，人工智能的数据控制者可以参照本指南提出的要求检查自身的合规水平。

主编介绍

王 捷 律师

垦丁律师事务所合伙人、广州创始合伙人、主任律师

W&W国际法律团队创始人

荣登律商联讯（LexisNexis）2023「40位40岁以下的法律精英」榜单

王律师曾在阿里巴巴大文娱集团、国际律所与海外仲裁委员会工作积累了13年+科技型公司实务经验，具备中外律所从业背景；为各类涉互联网企业提供各类综合合规支持，包括数据合规、个人信息保护、产品模式合规等，尤其擅长为企业出海产品提供各类有效的合规解决方案与落地支持。目前已为超过50+头部与知名互联网公司、500强企业、大中型外资企业、独角兽企业提供服务和产品落地解决方案；并发表了超过200多篇的实务文章与专题报告。

专攻领域：

个人信息保护与全球数据合规、企业出海合规、互联网产品及业务模式综合合规、网络安全、广告合规、知识产权攻防布局、前沿科技领域实务合规等。专精于移动互联网、智能制造业与物联网、智能网联汽车与车机系统、电子商务及平台、直播与短视频、社交网络平台、AIGC、区块链、云计算、web3.0、NFT等新兴前沿行业。

涉足国家及地区：

中国（含港澳台地区）、印度、印尼、东南亚等多国、日、韩、欧盟、美国、中东多国、南美洲、非洲。

职业资格：

持有CIPP/E（国际信息隐私专家认证/欧盟）、区块链应用操作员资格证书、数据安全师、数据合规官等资格证书，是联合国世界丝绸之路委员会专家，中国国际贸易促进委员会深圳调解中心专家调解员，广东省法学会信息通讯法学常务理事，荷兰RuG国际经济法与商法硕士。

联系方式：[e-mail]

[phone] 

推荐阅读：