本文作者：X.M
其他
【白话数据合规之人脸识别】刷脸时代：欧洲人脸识别案开启“脸的恐慌”（下篇）
文章系本公众号独家首发，未经授权不得转载、摘编
目录
上篇
【白话数据合规之人脸识别】刷脸时代：欧洲人脸识别案开启“脸的恐慌”（上篇）
下篇
四、“脸”的三大拷问：便利？安全？隐私？
五、“脸”该怎么用：人脸识别的法律规制
六、企业如何驱散“脸”的恐慌：人脸识别的企业合规路径
人脸识别技术应用正如火如荼地开展着，新技术本身的安全隐患也开始集中暴露出来。正如尼尔·波兹曼在《技术垄断》中的警示，技术使信息泛滥成灾，使传统世界观消失得无影无踪。我们应警惕“技术崇拜”，多一份理性，少一份盲目，客观、全面评估新技术的优势与风险，站在社会公众、专家学者、立法者和监管者多个角度审视和考核人脸识别技术的便利性、安全性和隐私性，辨别出新技术可应用的场景和不宜铺开应用的场景。
（一）便利性背后的隐形风险
刷脸的最大优势在于便捷，当“人脸”成为了每个人的钥匙、密码、验证码、通行证，人们就可以不借助任何其他设备，轻松的体验日常生活的点点滴滴。便利性也正是人们转变固有生活习惯和行为方式，接受新兴技术的重要原因。然而，相关调研显示，现阶段人脸识别技术还存在很多问题，便利性尚未达到人们的期望值。近日，南都人工智能伦理课题组发布《人脸识别落地场景观察报告（2019年）》，针对人脸识别应用于公租房小区、交通、校园、商场和公共厕所五个典型场景进行调研。调研数据显示，超过六成的受访者同意“使用人脸识别后更方便”，有四成的受访者持保留或反对意见。越来越多的人开始担心人脸识别技术背后的隐形风险，其一是错误风险，其二是算法歧视风险。
1、错误风险
人脸识别技术水平参差不一，对于信息识别的准确性难以保障，可能存在错误风险，包括误检和漏检。根据受访者反馈，穿衣、打扮、光线、角度等因素都会影响人脸识别的灵敏度和准确率，可能出现难以识别甚至是识别错误的情形。来自英国反监视组织Liberty的数据显示，在英国警方部署的人脸识别行动中，2017年6月卡迪夫举办的欧洲杯冠军联赛决赛期间，人脸识别系统提供了2470个可能的匹配结果，其中92%（2297个）是错误的。在考勤打卡上下班场景中，发生误判的概率也比较大。通过人脸闸机时，可能会识别出另一个自然人身份，由此可能造成行为人打卡失败，或发生行为人故意借由他人身份私自外出、旷工，影响相关权益人的考勤记录和绩效考核，并且相关权益人对此毫不知情。
2、算法歧视风险
另外一种不易觉察的风险是采用标签化的人脸识别算法可能带来的偏见或歧视性决策的风险，尤其涉及到种族、肤色、宗教、性取向、性别等标签。很多数据库中还包含着过时的种族语言和刻板印象的标签词汇。在具体的准确性测试中，不同种族肤色的群体具有较大差异的识别错误率，例如，根据美国国家标准与技术研究所的研究，亚马逊的Rekognition的图像分析和人脸识别功能对黑人，尤其是黑人女性，识别错误率特别高。该项研究的合著者称，在2018年进行的实验中，Rekognition错误地将19%的女性图像识别为男性，将31%的深肤色女性图像识别为男性。相比之下，微软在识别深色皮肤人群性别时，将女性错认为男性的比例只有1.5%。尤其是当人脸识别算法应用到监控、视频面试、定向推送等自动化决策中时，会对自然人的民主权利和自由造成影响，由此产生更多的担忧。
（二）人脸识别技术的野蛮生长
人脸识别技术的安全风险来自于数据本身的高敏感性以及人脸识别技术本身的安全性与规范性。
1、面部识别信息属于高风险的敏感信息
首先，面部识别信息本身具有高敏感的安全风险。作为数据主体特有的生物特征，能够在任何时间任何地点对数据主体进行个体识别，具有永久性、唯一标识性、不可变更特征。与其他敏感个人数据不同，面部识别信息是数据主体身体的组成部分，如果不是整容换脸，正常情况下无法进行变更的，当遭遇安全事件，发生丢失、泄露、系统入侵等，会对数据主体造成极大的风险，且无法控制后续的风险扩散范围。例如被盗用身份进行违法犯罪。此外，面部识别信息比较容易获取，特别是在信息化时代，人们上传的照片、被拍摄的照片都可能经过特殊技术加工变成人脸识别技术的模板，成为面部识别信息。人脸识别也被称为是“非接触式”系统（contactless system），指收集面部识别信息的设备往往不容易被数据主体关注到，在数据主体不知情的情况下远程收集、处理了数据。
2、缺乏统一技术安全标准和监督管理
其次，人脸识别技术的使用缺乏统一标准和监督，存在技术安全风险。从技术上看，采用3D技术的人脸识别技术需要经历活体检测、终端安全和辨识算法三个流程，安全性较高。但是多数企业采用2D技术，未进行活体检测，导致打印照片也能成功刷脸。目前金融支付领域对于人脸识别技术有较高的标准要求，但是其他应用场景仍是野蛮生长的状态。此外，系统安全漏洞问题仍然一直存在。2018年12月，Facebook又爆出发生数据泄露事件了，这次的主角正是用户照片。在9月13日至9月25日期间，Facebook照片API中的漏洞使得约1500个App获得了用户私人照片得访问权限，因该软件漏洞可能导致680万用户的私人照片泄露。一般来说获得用户授权的App只能访问共享照片，但这个漏洞导致用户没有公开的照片也照样能被被读取。2019年，国内多个平台上，更是出现大量的人脸信息正在被低价贩卖现象。例如，在互联网平台“转转”上，曾出现包括5000多张人脸照片的“人脸相关算法训练数据集”，标价10元。“快眼”贴吧上也有人在兜售人脸数据，有的照片集甚至包括了姓名、身份证照片、银行卡和手机号“四要素”，标价5元。
（三）数据处理合规风险
1、悄然无声的窥视
由于生物识别信息所涉及的特殊风险，因此在开始处理用于人脸识别的数字图像之前，需要得到个人的知情同意。然而，在某些情况下，数据控制者可能暂时需要执行一些面部识别处理步骤，目的是准确地评估用户是否已经同意。此初始状态下的数据处理具有其他合法性基础，特别是数据控制者遵守数据保护规则的合法利益。然而，该初始状态下的数据处理必须严格遵守目的限制原则，只能用于核实用户的同意，因此，应在完成核对之后立即删除。以同意为合法性依据处理面部识别信息的前提是，向数据主体履行了充分的告知义务。
然后现实中静默式数据收集属于常态现象。很多人脸识别的应用场景都没有履行告知数据主体以及获得其同意的合规义务。有的人脸识别设备隐藏在不易察觉的地方，或者即使数据主体意识到有摄像机正在工作，也可能没有视觉线索（例如提示语）来区分用于面部识别系统的直播或录制闭路电视系统和镜头捕捉图像。在这种类似情形下，数据主体根本就不知道数据控制者正为面部识别目的处理其图像。
2、杀鸡焉用牛刀
使用面部识别技术，必须先考虑每一类处理数据的相称性问题。面部识别信息只能在适当、相关和不过度的情况下使用，这意味着必须严格评估处理数据的必要性和相称性，以及是否可以以较少干扰的方式实现预期目的。
在分析拟议的人脸识别系统的必要性和相称性时，首先，需要评估的第一个因素是，该系统是否需要满足所确定的需求，即是满足这一需求的必要条件，而不是最方便或成本效益最高的条件。其次，需要评估的第二个因素是，考虑到计划使用的生物鉴别技术的具体特点，该系统是否可能有效地满足这一需要。需要评估的第三个因素是，由此造成的隐私权丧失是否与任何预期的利益成正比。如果福利相对较小，例如增加便利或略为节约成本，则隐私权的丧失是不适当的。需要评估的第四个因素是，考虑较少隐私侵入手段是否能够达到预期的目的。
如果仅仅为了评价老师的授课水平、学生的上课效率，就使用人脸识别技术时刻监控学生的表情、姿势、动作，实在是小题大做了，着实入了技术滥用的陷阱。如果任何理由都可以成为监视我们的合理依据，那我们还能拥有多少自由。
3、有所为有所不为
一旦被合法地或非法地捕获，数字图像就可以很容易地共享或复制，用于不同于最初计划中的处理目的。这一点在社交媒体领域很明显，原本用户上传个人照片与家人、朋友和同事分享。但是一旦在社交媒体平台内提供图像后，很轻易会被平台本身再次使用。
例如购物中心或类似公共区域内的面部识别系统可用于跟踪个人购物者的路线和习惯。目的可以是有效的队列管理或产品放置，以改善客户体验。然而，有了跟踪或定位特定个人的能力，就有了定位和提供有针对性的广告或其他特定服务的能力。此外，应时刻谨记有所为而有所不为，不能超出原有的使用目的范围。
4、没有金刚钻，别揽瓷器活
数据处理应当采取适当的技术或组织措施以保护数据免遭未经授权或非法的处理以及意外的丢失、销毁或破坏。尤其涉及到敏感数据，数据控制者应当投入更多的资源提升系统安全性。此外人脸识别还应当保证图像的质量以及采取防范欺骗性行为的措施。
人脸识别确实有助于提高效率、改善服务体验，但技术背后的合规投入却经常容易被忽略。对于任何一项新技术，在投入使用前都应当充分评估其背后的风险因子，并根据风险评估结果采用适当的保障措施，充分保障数据主体的权利与数据安全。
原先面部识别信息处理的法律规制依托于生物识别信息。但随着国际社会上对于人脸识别技术兴趣在不断增长，专门适用于面部识别信息的风险评估与合规指南也陆陆续续出台。
早在2012年10月，美国联邦贸易委员会（FTC）便发布了《人脸识别技术的常见用途最佳实践》。2019年9月，美国加州通过了一项为期3年的议案，未来三年加州警察部门将不允许在随身相机上使用面部识别软件，法案在2020年1月生效。2019年10月31日，美国知名智库布鲁金斯学会发布了《防范面部识别软件风险的十大举措》的报告。美国伊利诺伊州通过了《人工智能视频面试法案（Artificial Intelligence Video Interview Act）》，其将于2020年1月1日生效，作为第一个规范在视频面试中对AI使用行为的州法。
虽然目前EDPB尚未通过GDPR下的生物识别准则，但2012年WP29工作组发布的《关于人脸识别技术发展的意见03/2012（WP 193）》以及《在线和移动服务中的面部识别的意见02/2012（WP 192）》仍然具有非常高的借鉴价值。2019年11月，法国数据保护监管机构（CNIL）发布了《人脸识别关于应对挑战的辩论》。2019年11月，英国信息专员办公室（ICO）发布了《特殊类别数据处理指南》以及《关于在公共场所执法部门使用实时面部识别技术》，并计划针对处理生物识别信息生成更详细的ICO指南。
除此之外，关于生物识别信息的法律规制同样重要。大部分国家和地区的法律法规将生物识别信息定义为敏感个人数据或特殊类型个人数据，严格限制生物识别信息的使用目的。
1、欧盟地区
针对生物识别信息被用于识别、授权、认证以将数据主体与他人相区分，GDPR第9条对包括生物识别信息在内的特殊类型个人数据的处理加以严格限制——采取一般性禁止处理的立场，并在第9条第4款对基因数据、生物识别信息或健康数据的处理规定了成员国可以维持或引入更进一步的限制条件。但也在第2款规定了10种例外：包括数据主体的明示同意、数据主体自行公开、为了数据主体的工作、社会保障目的、其他重要利益、公共利益、公共健康、研究目的等例外情形。尽管例外情形为数不少，但基本上除了数据主体的明示同意或者公开之外，例外情形的适用空间是十分有限的。
2019年10月，法国数据保护机构CNIL宣布，已命令尼斯和马赛的高中终止其面部识别计划。CNIL认为，面部识别装置特别具有侵入性，并且对有关人员的隐私和人身自由构成重大风险。当面部识别设备应用于未成年人时，这些风险会增加，这些未成年人在国家和欧洲法律中受到特殊保护。
瑞典数据保护机构已经批准警察使用面部识别技术，以帮助识别犯罪嫌疑人。瑞典数据保护机构认为，根据瑞典的《犯罪数据法》，主管当局“必须”能够处理个人数据以有效执行其任务。警察局已向DPA提交了影响评估，指出使用该技术不会带来侵犯人们隐私的任何风险。
2、中国
目前，中国将生物识别信息定义为敏感个人信息，通常以国家标准的形式规范生物识别信息保护要求。《GB/T 35273-2017 个人信息安全管理规范》要求收集、使用敏感信息，应当取得个人信息主体的明示同意。《信息技术 安全技术 生物特征识别数据的保护要求（征求意见稿）》对生物识别信息作出专门规定。《信息安全技术 个人信息安全工程指南（征求意见稿）》要求对生物识别信息采取不可逆向保护措施。《信息安全技术 个人信息安全影响评估指南（征求意见稿）》要求对生物识别应用进行安全影响评估，并针对生物识别信息的收集、使用、存储、销毁全生命周期提出合规要求。根据《信息安全技术 个人信息安全影响评估指南（征求意见稿）》，企业应当：
在收集生物识别信息时，人脸识别系统所有者应取得数据主体的同意，并向数据主体提供在信息的生命周期内控制其生物识别信息的方法；
提供同意撤回的机制；
提供适当的安全措施，从而防止对生物识别信息和相关的人脸识别系统本身的保密性、完整性和可用性造成攻击；
最大程度确保用于识别或验证决策的信息的完整性、准确性和时效性；
对数据主体访问其生物识别信息的任何请求做出响应；
不得共享、转让个人生物识别信息，不得公开披露个人生物识别信息；
对任何导致主体生物识别信息受损的违规行为进行通知。
3、美国
目前，虽然美国暂无专门的联邦法律规范生物识别信息的收集和使用，但《联邦联贸易委员会法》（《FTC法案》）第5条赋予了联邦贸易委员会（FTC）广泛的执法权，以保护消费者免受不公平和欺骗性贸易行为的影响。FTC可以对从事涉及生物识别信息的不公平或欺骗性贸易行为的商业组织采取执法行动。换言之，如果收集和使用生物识别信息的商业组织未能履行对消费者个人数据收集、使用和保护的承诺，则可能会受到FTC的处罚。
此外，目前共有7个州或城市制定了与生物识别信息相关的法律，分别是伊利诺伊州、德克萨斯州、华盛顿州、马萨诸塞州萨默维尔市、俄勒冈州和新汉普郡以及加利福尼亚州旧金山市。其他州也在考虑出台相似立法。美国在人脸识别技术应用方面正逐渐趋于保守，例如旧金山市和萨默维尔市禁止政府使用面部识别技术。
伊利诺伊州于2008年通过了《生物信息隐私法案》（Biometric Information Privacy Act, BIPA）。根据BIPA，在告知同意机制方面，组织不能通过商业或其他渠道收集、购买生物识别信息，除非符合以下两种情况：
向数据主体提供书面声明，说明收集、存储生物识别信息的情况以及收集、使用生物识别信息的处理目的和存储期限；
获得数据主体或其合法授权代表人签署的书面同意。
在使用范围方面，存在几方面限制：
组织不得披露持有的生物识别信息，除非获得数据主体的有效同意、满足数据主体处理金融交易的要求/授权或依据法律、执法要求进行披露；
不得出售、出租、交易或以其他方式从收集的生物识别信息中获利。
在存储期限方面，组织应当制定并公开提供书面的存储政策，在以下两种期限中选择最短的一种期限，永久删除生物识别信息：
实现收集生物识别信息的初始目的；
在数据主体与组织最后一次互动后的三年内。
德克萨斯州在2009年通过了《采集和使用生物识别信息法》（Capture or Use of Biometric Identifier Act, CUBI）。在告知同意机制方面，像BIPA一样，CUBI要求组织在收集任何生物识别信息之前通知数据主体并获得他们的同意，但是没有指定通知和同意必须采用的形式。在使用范围方面，CUBI禁止组织出售、租赁或以其他方式披露用于商业目的生物识别信息，除非符合以下情况：
数据主体同意为在其失踪或死亡时识别其身份披露生物识别信息；
为完成数据主体授权的金融交易；
根据州或联邦法规要求允许进行披露，或对执法机构发出的逮捕令做出回应。在存储期限方面，生物识别信息必须在合理时间内销毁，且不得迟于收集生物识别信息的目的实现之日起一年的时间节点。
华盛顿州州长于2017年5月16日签署通过了《华盛顿法案》（Washington bill）。《华盛顿法案》禁止在以下情形中将生物特征识别数据纳入数据库用于商业目的：
未事先提供通知；
未获得数据主体同意；
未提供防止后续用于商业目的的预防机制。
社会公众对于“脸”的恐慌并非空穴来风，但也并非无法破解，关键在于使用人脸识别技术和面部识别信息时，选择正确的合规路径，在此建议制定企业三步走计划，一是划出最小必要红线，牢记有所为有所不为；二是通过设计和默认的隐私保护，进行数据全生命周期加固；三是进行充分的数据安全影响评估，找到最佳的平衡点。
（一）划出最小必要红线
任何个人数据的使用都要符合合法、必要、最小的原则，尤其是面部识别信息等敏感数据，更要重视使用用途的合法性和合必要性，划出使用红线，禁止超出这些红线的面部识别信息的处理。
处理面部识别信息，数据控制者必须阐明其处理行为达到了严格必要的门槛，为了达到必要性标准，则必须考虑处理目标的相称性以及是否有可行的对隐私侵害更小的替代方法。在考虑处理目标的相称性问题上，目标部署、时间限制、区域覆盖范围都是重要的评估因素。当确定处理目标后，进一步应当说明为什么不考虑较少的侵入性手段来实现这一目标、确保人脸识别技术的使用是否能达成目标、是否具有可信依据。
评估目标配对的部署手段的合比例性方面，缩小覆盖范围和时间限制能够对评估结果产生较大的影响。例如在特定空间中不加区别地捕获面部信息的情形需要特别警惕。同时关于儿童等特殊群体的权利保护也是非常重要的评估因素。
（二）设计和默认的隐私保护
在将人脸识别技术融入产品服务中，应当设计和默认的隐私保护规则，在产品和服务的整个生命周期中实施适当的数据安全措施，提供从摇篮到坟墓全过程的保护。
1、同意
如果数据控制者直接收集图像数据，则必须确保在采集前向数据主体提供充足的通知，并获得数据主体的有效同意，说明摄像机何时操作以进行面部识别。在社交网络服务中，数据主体可能将其数字图像上传到社交网络中，数据控制者从自身平台处收集此类图像数据，必须确保数据主体同意将这些数字图像用于面部识别用途。如果数据控制者从第三方处间接获得数据主体的数字图像（例如，从其他网站复制或从不同的数据控制者购买），应当确认原始图像来源的合法性以及授权处理的范围和情况。
此外，可能存在适用同意以外的合法性基础的情况，例如合理利益，但也仅仅限于用户核对数据主体是否做出过同意的情形。数据控制者必须确保只有在数据控制者对此类处理有合法利益的情况下，才处理未注册服务用户或未同意此类处理的个人的数字图像。如果发现未获得数据主体同意，则必须立即停止处理和删除不匹配结果中的所有数据。
2、通知
数据控制者应当遵循透明原则，向数据主体提供有关其如何收集、使用、保护、共享的清晰且可访问的信息。同时应当在人脸识别设备范围内尽到充分的通知义务，将人脸识别设备放置于明显位置，并放置提示语以及隐私声明，介绍人脸识别的应用情况。
3、使用
数据控制者必须确保数字图像和模板仅用于提供它们的特定目的，不过度从数字图像中提取的数据，避免任何可能的超过原有范围的进一步处理。模板不能在面部识别系统之间转移。
4、传输
数据控制者必须采取适当的步骤来确保数据传输的安全性，例如加密通信信道或加密所获取的图像本身。在可能的情况下，特别是在认证/验证的情况下，应支持本地存储和处理。
5、存储
数据控制者必须考虑存储数据的最适当位置。这可能包括在用户的设备上或在数据控制者的系统中。数据控制者必须采取适当的步骤来确保存储的数据的安全性。这可能包括加密模板。不可能获得对模板或存储位置的未经授权的访问权限。尤其是用于验证的面部识别时，可以使用生物识别加密技术；使用这些技术，加密密钥直接绑定到生物识别信息，只有在验证中显示正确的活生物识别样本时才能重新创建。
6、用户控制
提供选择的权利。企业应以简单易行的方式给数据主体提供选择权，包括面部识别信息不被收集和使用的权利、在任何时候关闭面部识别或删除已收集的面部识别信息的权利。向数据主体提供适当的机制，以恰当行使其访问原始图像和在面部识别背景下生成的模板的权利
7、第三方管理
数据控制者应实施技术控制，以降低第三方为用户未同意的目的进一步处理数字图像的风险。在默认情况下应当限制第三方的访问，为用户设置工具，以控制其上传的图像的可见性。
（三）数据安全影响评估
数据控制者在处理面部识别信息前应开展数据安全影响评估。涉及到面部识别信息等敏感数据的处理时，由于可能会对个人的权利和自由造成高风险，尤其需要注意。无论是出于试用或其他运营目的，都要记录评估对数据主体的权利和自由可能带来的风险、符合目的相称性的证明、排除对隐私侵害更小的替代方法的理由、对于部署目标的实现以及减轻风险所需的保障措施，并定期更新审查评估，包括说明处理情况的任何变化或风险的性质。
本文撰写所需的信息采集自合法公开的渠道，我们无法对信息的真实性、完整性和准确性提供任何形式的保证；
本文仅为分享、交流、学习之目的，任何人都不应以本文全部或部分内容作为决策依据，因此造成的后果将由行为人自行负责。
2021-02-25
2021-02-25
2021-02-23
2021-02-22
2021-02-22
让我知道你在看