《英国ICO人工智能与数据保护指引》选译 | 如何评估AI的安全性和数据最小化？

译者序

随着近年来人工智能技术的发展与应用，与其相关的数据保护问题日渐引起人们的注意。对此，英国信息专员办公室（ICO）在其官方网站发布了针对人工智能与数据保护的指导意见，旨在讨论当前人工智能领域较为突出的问题，并为企业提供意见指引。此前，我们已经翻译了该指导意见中的一篇【《英国ICO人工智能与数据保护指引》选译 | 如何保护人工智能系统中的个人权利？】，本次选译的则是《我们应该如何评估人工智能的安全性和数据最小化？》。

在上一篇的基础上，本文从以下两方面展开对人工智能合规问题的讨论：人工智能安全（包括模型安全、数据安全等）与数据最小化的实现。

针对人工智能安全，本文从人工智能的特点出发，介绍人工智能领域较为常见或容易发生的数据安全风险，例如，模型反转攻击、成员资格推断攻击等。在此基础上，探讨可以采取哪些有效的安全措施。

此外，本文的后半部分还介绍了如何在人工智能不同阶段实现数据最小化原则的要求，包括机器学习算法应用设计阶段、数据训练阶段等，并对合成数据、联邦学习等若干隐私增强技术进行了简单介绍。

本文结合了人工智能技术实践与监管机关的合规建议，对相关企业以及合规、技术人员均有宝贵的参考价值。若译文有不准确或错误之处，欢迎大家指正。

数据保护官（DPO）社群主要成员是个人信息保护和数据安全一线工作者。他们主要来自于国内头部的互联网公司、安全公司、律所、会计师事务所、高校、研究机构等。在从事本职工作的同时，DPO社群成员还放眼全球思考数据安全和隐私保护的最新动态、进展、趋势。2018年5月，DPO社群举行了第一次线下沙龙。沙龙每月一期，集中讨论不同的议题。目前DPO社群已超过300人。关于DPO社群和沙龙更多的情况如下：

域外数据安全和个人信息保护领域的权威文件，DPO社群的全文翻译：

DPO线下沙龙的实录见：

传染病疫情防控与个人信息保护系列文章

美国电信行业涉及外国参与的安全审查系列文章

中国的网络安全审查系列文章：

自动驾驶系列文章：

欧盟“技术主权”进展跟踪系列文章：

数据安全法系列文章：

个人数据与域外国家安全审查系列文章

人脸识别系列文章：

围绕着TIKTOK和WECHAT的总统令，本公号发表了以下文章：

美国方面的个人信息保护立法：

中国个人信息保护立法系列文章

第29条工作组/EDPB关于GDPR的指导意见的翻译：

关于美国出口管制制度，本公号发表过系列文章：

数据跨境流动的文章如下：

供应链安全文章：