查看原文
其他

刘成,张丽:“刷脸”治理的应用场景与风险防范

数字法治 2022-12-01

The following article is from 学术交流 Author 学术交流

[作者简介]刘成(1990—),男,内蒙古乌兰察布人,内蒙古大学公共管理学院讲师,博士,从事智能治理研究。


本文原载《学术交流》2021年第7期,转载对注释和参考文献进行了省略。


1











[摘要]人脸识别是“刷脸”时代相关领域高效运转的核心驱动力,在革新私人领域生产、消费和生活方式的同时,也助推着公共领域的治理效能变革。根据匹配量级的不同,人脸识别可分为人脸认证(1∶1)、人脸辨认(1∶N)和人脸搜索(N∶N)三种模式,分别用于智能政务效率变革、智慧社区效能提升和“平安城市”场景布控。人脸识别在释放治理红利的同时,也产生了不可忽视的技术风险、伦理风险、规制风险和社会风险。为了防范风险,在对人脸识别技术应用的治理中,应当从工具理性向价值理性和技术理性转变,从应对型治理向预见性治理、敏捷治理转变,核心主体与辅助主体协同共治,技术监管和技术创新叠加发力。[关键词]人脸识别;人脸认证;人脸辨认;人脸搜索


人脸识别(Face Recognition)是利用公众个体的面部特征进行身份识别的新技术,它凭借易接受、非侵扰和直观性等独特优势,成为人工智能领域落地最快的生物识别技术之一,全方位形塑着整个社会的生产模式和运行方式,宣告了“刷脸”时代的来临。在建设数字中国的背景下,人脸识别正在深入政务服务、社会治理、安全保障等公共领域,这也是未来公共治理的大趋势。然而,人脸识别技术的广泛应用在带来巨大治理红利的同时也陷入了“理性的樊笼”,隐藏在技术背后的道德错判、信息失控以及公共价值弱化等问题逐渐引发了“刷脸隐忧”,甚至催生了一系列“护脸行动”。未来应以何种治理之道应对人脸识别的潜在风险,已然成为亟须探索的重要课题。目前学界关于人脸识别的研究可归纳为三条研究路径:一是技术精进路径,侧重研究特定公共场景中人脸识别的应用状况、价值功用,如在城市门禁管理中的应用现状、在图书馆智能管理中的价值和可行性;二是风险探析路径,从权利侵犯视角探讨人脸识别应用的潜在风险,例如有学者围绕公民的隐私权、财产权和自由权剖析了人脸识别可能带来的权利侵害风险;三是法律规制路径,主要从法律层面提出人脸识别的规制策略,例如,有学者基于立法的视角,分析了美国和欧盟在人脸识别立法的内容、方法以及价值方面的异同,并为我国的人脸识别立法提出了建议。整体而言,现有文献对于人脸识别模式划分和应用场景的研究相对零散,对于公共领域中人脸识别的风险认知和风险治理对策还缺乏系统深入的探究;而对于这些关键问题的回答,直接关系到人脸识别技术的应用合理性以及政府治理的有效性。本文基于人脸识别的技术逻辑,划分了三种识别模式,并探讨了三种模式在公共治理中的典型应用场景以及潜在风险,最后结合公共治理逻辑,提出了人脸识别的风险治理策略。在理论上,本文挖掘梳理人脸识别在公共领域的应用,有利于深化学界对人脸识别的社会效应的理解,进一步拓展技术治理研究的认知边界;在实践上,本文的研究有利于破解人脸识别的潜在风险,也有利于提升政府治理的智慧化水平,推进国家治理现代化。

一、公共场景下人脸识别的多维应用

在公共治理中运用人脸识别,属于技术治理范畴。所谓技术治理,指的是在社会运行尤其是政治、经济领域当中,以提高社会运行效率为目标,系统地运用现代科学技术成果的治理活动。随着网络社会和信息时代的发展,复杂性的简化和清晰化的实现逐渐脱离了传统技术,以人脸识别为代表的现代科技在公共治理领域的地位越来越重要,其应用场景也越来越广泛。本文结合人脸识别的技术逻辑,将其划分为人脸认证、人脸辨认和人脸搜索三种模式,阐述不同模式在公共治理中的典型应用场景。(一)基于人脸认证的智能政务:推动政务服务效率变革人脸认证(Face Verification)是将某个识别对象与人像数据库中的特定人脸信息进行快速的一对一比较(1∶1),根据匹配相似程度来判断二者是否为同一人。打造基于现代技术的数字政府,是公共组织降低行政成本、扩展服务范围、提升服务品质、提高政府回应性和公众满意度的有效途径。在大力推行“互联网+政务服务”的背景下,人脸识别凭借精准、安全的身份认证功能,已经开始在政务领域全方位应用,逐渐渗透到身份认证、预约取号、远程认证以及事项办理等诸多政务服务环节,成为许多城市政务大厅的“标配”,有力地推动了政务服务的效率变革。1.身份识别在政务服务领域,传统的人工和指纹验证方式逐渐被人脸识别身份认证所取代。由于嵌入了人脸识别功能,政务服务大厅实现了不用提供证件、只需“刷脸”便可办理各项业务的“刷脸即办”模式。例如,2020年12月,嘉兴市南湖区上线54台人脸识别政务服务一体机,通过对接公安部“互联网+可信身份认证”平台,自动完成居民身份证与面部特征的人证合一检验,不仅解决了公众忘带身份证件时的“办事难”问题,还能防止身份冒用等违法犯罪现象,大大提升了政务服务的“整体智治”水平。

2.预约取号

基于人脸识别式数字身份认证,可在行政服务中心、市民服务中心的线下大厅取号办事。例如,2019年10月,北京朝阳不动产登记大厅上线智能服务系统,通过将人脸识别所获得的身份信息与业务系统数据库内的取号信息相匹配,自动完成“人号合一”验证,解决了一人多号、重复取号等问题,不仅有利于提升公众业务办理的身份验证精度,还有效地杜绝了“黄牛”倒号卖号现象。3.远程认证人脸认证模式还可通过支持远程身份验证,打破传统政务服务的地理空间限制,使公众足不出户便可办理政务事项。例如,早在2014年,海口市社保局就推出用于领取养老金的人脸识别远程认证系统,通过电脑终端即可完成身份认证和养老金领取,不仅方便了行动不便和异地甚至异国居住的离退休人员,还能够杜绝死亡冒领、重复领取、假冒身份骗取养老金等违法违规行为,大大提升了公众的“数字获得感”。(二)基于人脸辨认的智慧社区:提升社区治理效能人脸辨认(Face Identification)是将公众特定人像与数据库中的海量人脸进行比对(1∶N),根据比对结果来识别身份。公共治理中的人脸辨认模式广泛应用于智慧社区建设,如智能门禁系统、社区访客管理、智能垃圾管理系统以及电梯管控等诸多社区治理场景。智慧社区建设本质上是社区治理制度与现代技术相互调适和相互作用的新模式,它承载着国家基层社会治理体系与治理能力现代化建设的重任。人脸辨认模式顺应了“风险社会”时代社区治理的现实需求,成为提升社区治理效能、提高社区居民满意度和获得感的重要工具。1.刷脸门禁传统门禁管理主要通过门禁卡来实现,但由于存在门禁卡丢失、误用等多种情况,无法确保门禁卡持有者是社区居民本人,这客观上成为社区安全事件的隐患。相比而言,嵌入人脸识别的智能门禁系统(Smart Access Control System)能够在无须人工查验的情况下自动识别可疑人员,从而有效遏制社区盗窃、乱贴小广告和陌生人随意进出小区等现象,为社区居民提供更加安全有序的生活环境。不仅如此,在进出社区时,只需停留一两秒钟,甚至不需要停留,智能系统便可通过识别和比对居民的人脸信息而自动为获得授权的居民开门,极大地提升了社区的通行效率。

2.访客管理

人脸识别技术还能提高社区访客管理的有效性和安全性。访客进入社区前,需要社区业主在人脸识别的访客注册系统(Visitor Registration System)中上传访客的人脸图像并发送邀请;访客来到大门口时,人脸识别系统会动态采集人脸信息,自动完成与受邀访客人脸数据库的对比和匹配,从而智能、精准地决定是否给访客开门。

3.垃圾分类

目前,越来越多的社区安装了依托人脸识别技术的智能垃圾管理系统(Intelligent Waste Management System),社区居民只需提前让社区管理部门录入个人身份信息,便可通过刷脸实现垃圾投放,极大地提升了社区居民垃圾投放和垃圾分类的效率。并且,智能垃圾管理系统还可以追踪和分析每个家庭的垃圾投放行为以及相关数据,从而实现垃圾分类的有源可溯,助推社区垃圾分类的精准化、集约化和智能化转型。

4.电梯管控

新冠疫情蔓延期间,电梯成为易感染高危区,为了避免与电梯按键的接触,降低病毒感染风险,不少社区配置了刷脸乘梯系统,自动识别乘梯权限和目标楼层,支持零接触乘梯,为电梯按键交叉感染问题提供了有效的解决方案。(三)基于人脸搜索的“平安城市”:助力城市场景布控人脸搜索(Face Search)可对场景内多人进行面部识别(N∶N),通过与人像数据库的比对,完成对人像的全面分析和多维度建模。公共治理中的人脸搜索模式主要应用于“平安城市”建设,如智能监管、危机应对、辅助执法和犯罪预防等。“平安城市”建设是围绕预测、规避和应对公共安全风险而展开的,某种意义上每个公众都可能成为风险的制造者和参与者,因此,针对个体的精细化风险监测和防控就显得尤为必要。基于人脸搜索模式的智能监控系统为这一问题的解决提供了方案,不仅能够实时监测城市公共生活中每个个体的行为动态,还可以通过不同数据库的相互“碰撞”进行行为预测,实现了对海量人群进行实时监测和动态管控的治理需求。 

1.智能监管

交通场站作为城市基础设施建设的重点投资对象,由于其人流密集、人员复杂、空间相对封闭等特点,存在着较大的安全隐患,迫切需要建立一套集人脸数据采集、事前预警防范、事后快速排查等功能于一体的人脸识别智能预警图侦系统。例如,2019年,唐山市交警部门在全市部署人脸识别摄像机,通过将实时抓拍的驾驶人员人脸数据与后台数据库进行对比,锁定违规驾驶人员(如未取得驾照人员、驾照被吊销人员和毒驾人员等),并通过缉查布控系统通知执勤民警现场拦截处理。

2.危机应对

我国的新冠疫情应对工作,就是人脸识别赋能公共危机治理的一个典型案例。为了在复工复产的同时有效遏制疫情传播,多地政府引入了人脸识别技术,不仅能够在非接触情况下实现体温异常人员的快速定位和溯源,还支持回溯、查找病例同行人员数据等多项功能,有利于对密切接触人群进行重点观察和隔离预防,极大地方便了追踪病毒传播路径、预测病毒传播走向,有效地降低了病毒传播风险。

3.辅助执法

人脸识别技术还是从海量监控中定位犯罪分子的重要工具,通过人脸搜索,可以实时把预警信息推送到相关移动执法终端上。这成为各国政府应对跨国恐怖主义犯罪等社会安全风险的一个重要手段,极大地提升了公共安全部门的执法效率。例如,英国政府给当地警察配备实时人脸识别(Live Facial Recognition,LFR)设备,不仅能够自动捕捉和识别镜头内的人脸图像,还可以实时完成人脸信息与警方“黑名单”的匹配以及复核,从而协助公共安全部门及时采取预防措施。

二、公共治理中人脸识别的潜在风险

毋庸置疑,人脸识别技术的蓬勃发展和广泛应用有着重要的科学意义和巨大的社会价值。但是,在经济利益的驱动下,不少经济主体只看直接的、眼前的、局部的经济利益,忽略了长期的、社会公众的利益,过分追求人脸识别的工具属性,忽略了整个社会的公平、正义和发展。技术使用一旦没有规则、边界和禁忌,就可能进入混乱无序的境地,形成技术失控和技术僭越,甚至异化为一种社会危害。因此,人脸识别背后潜伏着的诸多风险和安全隐患亟待重视。概括起来,公共治理领域中人脸识别的潜在风险主要体现为四个方面,即技术风险、伦理风险、规制风险和社会风险。(一)技术风险

1.技术使用风险:错误识别

人脸识别的技术使用风险集中于因相关技术不成熟、不配套而导致的错误识别现象。其一,作伪者针对特定的目标用户,用照片代替人脸,造成虚假识别。人脸识别通过获取人脸特征信息来进行身份识别,但因人脸的可复制性,一些低技术嵌入性的人脸识别算法常常因为无法辨别所采集的人脸图像是来自真人还是来自照片而发生错误识别。为了应对照片冒充人脸问题,很多人脸识别系统添加了生物“活性”(眨眼、张嘴、摇头等)检测手段,但作伪者仍可利用视频播放、自动化人脸动效等技术,比较容易地混过检测。其二,将非目标用户识别为目标用户。虽然从生物角度来说,人脸具有唯一性,但事实上,人脸属于公众的弱隐私,容易被窃取,在“仿造”上也比较方便。因此,人脸识别系统经常遭遇仿冒认证,而将非目标用户识别为目标用户。此外,由于技术的局限性,巧合雷同性的误识别也可能发生。其三,脸部的浓妆、过敏、受伤、整容等情况导致脸部特征发生变化,也会影响人脸识别的准确率。

2.技术安全风险:数据泄露

人脸识别的技术安全风险是指人脸识别在广泛应用的同时,也因与物联网、云计算、区块链高度连接而增加了大量的潜在受攻击点,从而造成安全漏洞。一方面,市场大都把关注点放在人脸识别的规模化商用拓展上,往往忽视了对数据安全的投入,导致某些环节的安全防护比较薄弱;另一方面,人脸识别应用市场的技术条件和管理水平良莠不齐,一些技术安全不达标的企业极容易被干扰或攻击,进而引发大规模数据泄露的安全风险,致使人脸信息数据泄露案件频发。不仅私人部门如此,公共部门所收集的人脸信息也面临数据泄露的风险。例如,目前不少地方的政务服务大厅通过“人脸识别+区块链”实现了行政审批“无证办理”,然而,办事公众所授权出去的个人信息如何保护,却在叩问着人脸识别的技术安全性问题。(二)伦理风险

1.生物特征识别的滥用

作为一种生物特征,人脸信息具有唯一性、不可更改性和不可撤销性,必须妥善管理和使用。但在实践中,不少刷脸系统突破了“同意使用”的信息收集原则,强制授权、过度索权、超范围收集个人信息等现象大量存在,人脸识别相关法律所规定的“同意原则”失灵了。例如,许多嵌入人脸识别系统的移动互联网应用程序(App)在征得用户同意前就开始收集个人信息,或打开可收集个人信息的权限。此外,人脸识别凭借其能远距离发生作用的特点,在一些公共场景中进行无意识性、非接触性的使用,致使公众逐渐成为“透明人”。有调查数据显示,公共场所在使用人脸识别功能时,包括利用监控设备来采集人脸信息、识别身份、储存信息的时候,近半数的并未征得公众同意。更有甚者,不少企业为了占据更多市场份额、谋取更多利益,主动为商家提供“人脸互动营销解决方案”,即通过抓取公众的人脸来分析他们的性别、年龄乃至当时的心情,这种做法严重侵犯了公众的个人隐私。生物特征识别涉及与公众利益密切相关的隐私、道德、法律等问题,一旦滥用,相应的风险和危害就不可逆转,也无法有效弥补,“一次泄露,终身风险”势必会给公众带来不可估量的严重后果。

2.主观上的算法歧视

人脸识别通过对公众个人信息的广泛收集,让精准、高效的“区别对待”成为可能。在看似中立的人脸识别算法中,由于算法设计者的认知存在偏见,可能让人脸识别决策出现有歧视性的结果,这已经引发了一系列关于权利、自由以及社会公正问题的讨论。例如,从世界范围看,大多数人脸识别系统识别白人男性面孔时准确性较高,而有色人种和女性的面孔被误判的可能性相对较大。以标签化、用户画像的名义,人脸识别把公众的家庭出身、性别、财产、职业都悄无声息地纳入决策体系中,不可避免地带有社会固有的不平等、排斥性和歧视的痕迹。这些算法上的歧视进一步放大了社会中固有的偏见,扩大了整个社会的“机会不平等”。可见,如果忽视伦理风险而盲目轻率地推广人脸识别技术,必然带来层出不穷的对公民平等权利的伤害。(三)规制风险

1.人脸识别立法滞后

目前我国还没有专门针对人脸识别技术的法律法规,只是在宏观层面规定了收集个人信息的“合法性、正当性和必要性”原则。这使得人脸识别在法律性质上仍停留于身份信息识别的隐私权范畴。例如,2020年,在备受关注的浙江“人脸识别第一案”中,虽然法院以合同为依据支持了原告的诉讼请求,保护了消费者按照合同约定的方式入园和提供个人信息的权利,但判决并未触及人脸识别技术的使用边界、人脸信息的处理规范等核心问题,也未对景区强制年卡游客刷脸的问题进行调整。该案件也折射出,目前我国在立法上还没有触及人脸识别的核心问题,人脸识别技术应用的法律边界尚待明确。此外,人脸信息属于个人敏感信息和隐私数据,而党的十九届四中全会根据经济发展和社会治理的需要,明确将数据纳入了生产要素范畴,允许数据“按贡献决定报酬”,但是,当前法律法规对于如何拥有和使用数据要素、如何落实数据要素财产权益都没有明确的规则,数据产权仍然处于模糊状态,这也从侧面影响了对公众人脸信息的有效保护。当然,人脸识别在法律上存在缺口有其现实原因。其一,从法律的制定内容来看,法律作为规范,其内容是抽象的、概括的和定型的,已经制定出来的法律应当具有一定的稳定性,法律为了保持自身的权威性和普遍适用性,不能朝令夕改,故而难以随时适应不断发展变化的复杂社会现实。其二,从法律的制定程序来看,法律的制定和出台要遵循一定的法定程序。在我国,按照全国人大常委会的立法程序,一部法律通常需要三五年才能获得通过。其三,作为一种新兴的互联网技术,人脸识别发展迅猛、更新迅速,相关业态和运营模式的变化也非常快。根据“摩尔定律”,互联网等高科技的更新周期仅为两年左右,技术的更新速度显著快于立法,法律以及政府监管的理念和思路未必能够与时俱进,因而常常表现出滞后性。

2.关于人脸识别的部门规定约束力不够

我国现有的跟人脸识别相关的个人信息保护法律规定主要来自《民法典》《消费者权益保护法》《网络安全法》《刑法》,以及《关于办理侵犯公民个人信息刑事案件适用法律若干问题的解释》等,它们初步构成了人脸信息保护的法律规制体系,明确了违法行为的民事、行政和刑事责任。而在具体操作层面,国家市场监管(质量监督)部门和国家标准化管理委员会2017年发布、2020年更新的《信息安全技术 个人信息安全规范》,以及2019年国家网信办等四部门联合制定的《App违法违规收集使用个人信息行为认定方法》,都对个人信息收集、使用等问题作了更为细致的界定,对规范人脸信息收集行为发挥着重要作用。但在工作实践中,这种部门规定的地位却有些尴尬,难以独立作为行政执法和相关司法的强有力依据。并且,由于管理手段有限、地方政府配合不力等原因,即使中央层面有政令,也很难完全落实此类部门规章和规范性文件等。由于以上原因,现有跟人脸识别相关的“个人信息收集”等方面部门规定约束力不强,在具体执法司法实践中面临可操作性不强、执行效果不佳的境地。(四)社会风险综合以上风险分析,从风险属性上看,人脸识别的技术风险更偏向于“自然风险”,伦理风险和规制风险则更偏向于“人造风险”,这两类风险带来的主要直接后果是公众的个人隐私信息泄露,人身和财产安全受到威胁,而公众的隐私泄露和人身财产安全问题又会进一步引发超越“自然风险”和“人造风险”的社会风险。

1.引发群体性冲突事件

人脸识别技术的不当应用极易引发群体性矛盾与暴力事件,影响社会稳定,进而引发社会失序、社会损伤、社会恐慌等消极的风险后果。例如近期,由于社区物业为了推行人脸识别门禁系统而强制要求社区居民提供房产证、身份证、手机号等信息,全国各地出现多起社区管理者与社区居民之间的冲突事件。不少居民追问人脸识别的技术使用边界,他们认为,在社区的公共区域设置人脸识别并不一定有必要,而且人脸识别系统的提供商是个私人公司,无权收集人脸信息、房产信息和家庭信息。社区管理者则认为,人脸识别是智慧社区建设的重要组成部分,智能门禁系统在方便社区居民进出的同时,还有更多贴心的功能。双方争执不下,甚至从语言冲突升级到肢体冲突。总之,人脸识别涉及公众个人隐私信息,极易引发群体性事件,而这些群体性事件在社交媒体的发酵下不仅给社会秩序、社会稳定带来巨大威胁,造成严重的不良社会影响,甚至还会危及构建社会主义和谐社会的全局。

2.诱发衍生型下游犯罪

除了引发群体性冲突事件,人脸信息泄露还为滋生下游违法犯罪活动提供了温床。例如,社区智能门禁在疫情防控期间起了重要作用,但近期也频频曝出物业人员贩卖居民信息事件,而信息购买者利用非法获取的居民人脸信息进行非法的调查、跟踪、偷拍,甚至实施“电话促销”类精准诈骗活动,更有甚者利用非法获取的人脸信息进行入户盗窃。公众人脸信息的泄露成了“精准”犯罪的“助推器”,从上游非法获取公众个人人脸信息,到中游在各种黑市交易平台转手出售数据,再到下游利用各种隐私数据实施诈骗、勒索等犯罪行为,人脸信息泄露背后已然形成一条完整的黑灰产业链,由此引发的社会危害日益突出,成为影响个人甚至国家安全的重要问题。

三、人脸识别的治理之道

纵观国家治理的发展过程,每一次新技术的出现和应用都可以解决或克服国家治理中的一些棘手问题,但与此同时,新技术的出现也会使国家治理面临新的挑战。面对人脸识别技术所带来的风险,探索如何实现对这种风险的识别、预防、应对和对风险损害的修复,以及如何实现人脸识别技术与国家治理的深度融合,已经迫在眉睫。我们结合公共治理的逻辑,从治理价值、治理模式、治理主体和治理路径四个方面构筑了人脸识别的治理框架,如图1所示。

图1  人脸识别的治理框架

(一)治理价值:从工具理性向价值理性和技术理性转变

人脸识别技术作为一种推动治理现代化的工具,依靠信息量化、精细管理的特点,助力政府数字化升级,显著提升了政府的治理能力。但是,解决社会治理的难题并不能单靠技术治理,因为技术治理本身并不自带现代化属性。技术治理要推动治理现代化,必须摒弃技术治理“自我合法化”的谬误。随着互联网、大数据以及人工智能技术的兴起,技术治理发生了转变和异化,界限不明、使用不当、隐藏难识别等问题不断显现。如若不能充分认识技术治理的内在缺陷和功能弱点,忽视了技术发挥治理效能的前提条件,而过分追求技术量化和技术治理绩效,则会将公共治理推入多中心的技术依赖困境当中,进而导致公共治理的畸形化。公共治理由于其自身属性,还需其他一些重要的治理因素,例如伦理性。在将人脸识别嵌入社会治理的过程中,如果忽视道德和隐私问题,单纯追求技术治理绩效,而忽略治理目标和本源价值,则不仅“刷脸”治理的诸多风险将成大患,还会引起新的社会治理问题。对于人脸识别技术,应当有理性的、全面的认知,审度技术的最终价值和技术的治理限度,避免滥用技术而导致的技术异化和技术僭越,明确技术治理的目标是提升“治理”水平,而不仅仅是方便“管理”。在具体做法上,要注意以下两个方面:一方面,政府应当运用技术治理的手段弥补行政科层制的内在缺陷和功能弱势,填充政府治理的缝隙,变革政府的组织结构和组织能力,推行政务公开,以公众为中心,通过“刷脸”治理,促进整个社会的公平、正义、诚信和发展。另一方面,还必须破除“技术万能论”,避免过分的、盲目的技术依赖,努力寻求“技术穿透社会”的制度支撑,在不断研发和创新治理工具的同时,找回治理的本源价值目标,更好地应对现代治理中日益加剧的复杂性问题,以期通过技术治理来实现超然、客观和中立的治理目标,追求治理价值的回归。简而言之,技术的理性价值不能被技术的工具性俘虏,而是要通过正确的价值理性来引导工具理性的价值最大化。(二)治理模式:从应对型治理向预见性治理和敏捷治理转变传统应对型治理模式的显著特点是滞后性,究其原因,主要有二:其一,客观上,随着社会结构的多元化和社会问题的复杂化,政府常常难以迅速地、有针对性地回应公众诉求,导致了某些公共治理问题的积压。尤其是面对社会新情况、新问题时,政府时常陷入应接不暇、不堪重负、疲于应付的境地。其二,主观上,“全能政府”和“官本位”的传统观念更是阻碍了政府治理模式的创新。另外,在治理手段的选择上,应对型治理模式主要通过行政计划、直接供给等陈旧僵化的方式治理社会,使得社会公共服务供给在质量和数量上都难以满足公众的多样化需求,进而导致公众对政府处理方式的不满,加深公众与政府之间的隔阂。人脸识别作为一种最新的人工智能技术,具有发展快、更新快、自主性和不确定性等特点,在实践过程中引发的社会问题也是不断变化的,而传统的治理模式难以应对当今高新技术所引发的一系列伦理问题和社会政治难题。人脸识别技术所带来的社会问题不断出现,迫切要求政府转变传统滞后的应对型治理模式,增强社会治理的预见性,实施预见型治理。预见型治理具有临时性、灵活性、可变性和动态性等特点,是针对新技术的复杂性和不确定性而衍生的新型治理模式。预见性治理要求政府在高技术领域的治理体现时代性和前瞻性,增强公共治理的预见性和创新性,变被动应对为主动出击,从理念、制度和机制上塑造政府治理的预见性,提升针对人脸识别潜在风险的治理绩效。此外,面对新技术,政府还应当提升治理的敏捷性,以更为动态、敏捷、灵活的方式研判人脸识别技术治理中的政策阻滞、政策偏差、政策冲突等执行问题,持续进行自我诊断和自我调适,适应治理任务,实现治理目标。(三)治理主体:核心主体与辅助主体协同共治“刷脸”治理不是单纯的市场行为,而是以政府为主、多方参与的国家行为。根据各主体在治理中的角色、作用以及资源依赖等方面特征,可将治理主体划分为核心主体和辅助主体。“刷脸”治理是一项系统工程,各方主体应当明确治理责任,共同构筑协同化的“刷脸”治理网络格局,共同推进社会治理体系和治理能力现代化。核心主体在“刷脸”治理中占据主导地位,主要由政府和市场构成。政府作为社会运行的中枢和“大脑”,是整个社会系统的核心和基础。在“刷脸”治理中,政府必须进一步准确地进行自身职能定位,解决监督不到位等问题,在充分尊重市场经济规律的基础上,更好地实施宏观调控,弥补市场失灵。此外,风起云涌的信息革命需要更多的市场管制机制。市场是技术创新的出发点和归宿,因此,市场应当认真审度人脸识别技术的价值边界。对技术的审视不能局限于技术的研发和使用本身,更要关注技术发展与整个社会发展是否相融;对技术的批判也不能局限于技术领域,而应当打破技术工具与人本价值的目标割裂,回到大众本身。人脸识别的政府监管与市场机制之间并不是替代关系,而是一种动态互补关系:一方面,政府对“刷脸”治理的监管强度会随着技术手段、市场发育程度等因素的变化而调整;另一方面,市场在进行资源配置的时候需要配合政府的导向作用,推动有效市场和有为政府的更好结合。公众、专家团体、科研机构和社会组织等辅助主体间接性或局部性地参与“刷脸”治理。“刷脸”治理的最终目的是“以技术服务人”,因此,一方面,政府应当通过制度化、规范化的渠道将公众引入“刷脸”治理过程,充分体现公众认知和公众参与的价值,另一方面,公众作为“刷脸”治理中的重要作用节点,应当提升个人依法维权的认知,加强对个人信息泄露的防范,只有这样,才能在社会上构筑一道保护人脸信息合法权益的无形屏障。此外,科研机构和相关技术专家通过提供专业、前沿的知识和信息,为人脸识别的技术监管和技术创新提供重要的理论支撑与技术咨询。最后,社会组织作为社会治理的实践者,涉及和深入了社会生活的各个层面,因此,“刷脸”治理中应当充分彰显社会组织的积极作用,以降低政府和市场的治理成本。例如:有些社会组织汇集了大批专家学者,可以成为“刷脸”治理的“智囊团”;还有一些社会组织可以有效地化解人脸识别引发的矛盾纠纷,成为促进社会和谐的“黏合剂”。(四)治理路径:技术监管与技术创新叠加发力随着公众隐私保护意识的觉醒,越来越多的公众对人脸识别技术的运用产生了警惕,各地的个人隐私数据泄露事件呼唤着对人脸识别的技术监管,人脸识别不能成为法外之地。然而,面对人脸识别这种新兴技术,相应的规制制度却并未同步跟进。因此,在技术监管的角度上,至少应从以下三个方面努力:一是完善人脸信息保护立法。国家要对人脸数据相关立法、执法、司法作出全局性一揽子设计,构建多层次的信息防护网,明确数据的权利属性、权利内容、保护方式等,强化市场不当处置人脸数据的法律责任,维护公众人脸信息隐私权。二是加强科技伦理规范。人脸识别的广泛应用,在商业伦理、道德规范等方面产生了许多新问题,例如人脸识别研发及应用的道德标准缺失。因此,需要通过立法来弥补法律法规在人脸识别之商业伦理和道德规范方面的空白,并加强对科技产业人员的伦理规范教育。三是在合规条件下加强人脸数据的有序共享和互联互通。目前,人脸信息数据的采集、汇聚、存储、使用存在部门化、分散化、碎片化等突出问题,既阻碍了经济社会治理效率的提升,也增加了人脸数据泄露的风险。对此,政府应当基于数据共享交换平台,建立市场与政府的信息共享集成机制,加强协作,加强信息互联互通,提高人脸信息利用效率。此外,“刷脸”治理离不开市场的技术创新。市场是技术创新的主体,而企业又是市场的主要参加者,因此,人脸识别的技术创新主要在企业。企业应当通过创新来化解人脸识别的风险:一是在技术创新过程中始终密切关注市场,根据市场需求和趋势以及“刷脸”治理存在的风险,更有针对性地选择研发目标、制定研发战略,通过技术研发,增强人脸识别技术的安全性。二是增强算法的公平性,凝拢其他相关技术集群,发挥巨大的创新合力,在焕发人脸识别技术无穷社会活力的同时克服信息泄露风险和算法歧视问题,实现技术与社会之间广泛的深度融合。三是加强自我伦理审计,践行自我监管。企业伦理道德主要依靠内在的信念起作用,具有自觉性和内在性,因此,企业在技术创新过程中,应当激发自身的责任自觉,遵循商业伦理道德,使得技术的创新和应用符合公平、正当、正义的社会伦理道德。




 相关阅读 ·


1.张秀:智能传播视阈下伤害最小化伦理原则探讨——以智能人脸识别技术为例

2.胡凌:健康码、数字身份与认证基础设施的兴起|中法评 · 思想

3.韩旭至|刷脸的法律治理:由身份识别到识别分析

4.胡凌|刷脸:身份制度、个人信息与法律规制


 商品书目 ·





微信号 : DigitalLaw_ECUPL

探寻数字法治逻辑

展望数字正义图景

数字法治战略合作伙伴:理财魔方

北京市竞天公诚律师事务所上海分所


您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存