查看原文
其他

“刷脸”会否“丢脸”? 专家:人脸识别应以“必要”为限

朱宁宁 MBA俱乐部 2021-01-12

MBAClub,分享传递价值

秘书微信号:iMBAClub2

投稿邮箱:post@MBAClub.cn

合作邮箱:Cooperate@MBAClub.cn 

导语


刷脸技术的滥用,将导致灾难。而人类只有经历了灾难,才会阶段性的长些记性。

——MBAClub编辑部

“难道我们就要一辈子躲在矿井底下吗?”


11月初,经典科幻电影《终结者:黑暗命运》如期上映。影片中,大反派使用人脸识别技术锁定对方的位置信息进行追杀。面对如影随行的危险,女主角Danny绝望而无奈地说出了这句话。很快,大反派又通过人脸识别找到了他们……


实际上,电影中的情节已经在现实中上演。


近段时间,随着人脸识别技术的大规模应用,有关“脸”的话题成为焦点。据媒体报道,9月初,中国药科大学试水教室人脸识别,引发对课堂隐私边界的争议;10月,上海一小区电梯引入人脸识别,引发公众对隐私泄露的担忧;不久前,有消息称北京地铁将应用人脸识别技术对乘客实施分类安检,触动大众担心个人信息安全的神经。而因不愿意“刷脸进门”,购买了动物园年卡的浙江理工大学副教授郭兵将杭州野生动物世界告上了法庭。11月3日,浙江省杭州市富阳区人民法院正式受理此案。这也被称为国内“人脸识别第一案”。


一些业内专家近日在接受《法制日报》记者采访时指出,人脸识别等人工智能技术本身并无好坏,但这种技术在使用的时候则必须要在法律框架内进行。


要通过规范的引导来进行必要的规制,以维护好安全、便利和隐私三者间的平衡。还有立法专家建议在国家层面加快人工智能立法的同时,全国人大常委会能够授权国务院和地方各级人大就相关领域先行先试进行立法。


(MBA俱乐部读者福利:免税店折扣券,随时扫码获取)

来源:法制日报

作者:法制日报全媒体记者 朱宁宁

编辑:渠洋 岳铼


当事人同意并不意味合法


人脸识别作为生物识别的一种技术,可用来长期追踪个人身份、去向、习惯。抓捕逃犯、追踪儿童、智慧城市……人脸识别技术除了在这些特定场景下得以应用之外,还越来越多的渗入到普通人的日常生活中,比如进门不用刷卡,看球赛看演唱会进安检不用凭票,超市购物不用扫码支付。据悉,最新的人脸识别技术通过对人脸面部表情的深度识别,不仅能够识别性别与估计年龄,还能够辨别个人的面部表情,计算个体内心世界的真实情感。这意味着,人脸识别不但能看清脸,还能读懂心,不仅能把行踪摸清楚,还能把内心想明白。


在带来不少便利的同时,对人脸识别技术担忧也随之而来,越来越多的人担心“刷脸”会让自己“丢脸”。在诸多业内专家看来,这种便利的代价过于巨大的,一旦操作不当,不仅会给个人带来危险,甚至对整个世界秩序产生不堪设想的后果。更需要值得警惕的是,人脸识别技术的随意扩大使用还面临着合法性和比例原则等法律拷问。此前,就有媒体曝光某地厕所用人脸识别技术来达到避免人们重复取纸的应用。


由于人脸采集不需要专门设备,几乎可以在无意识的状态下就可获取人脸图像,所以一旦当事人同意,人脸信息瞬间就可以被企业等“合法”地采集走。但在北京航天航空大学法学院教授、北航备案审查制度研究中心主任王锴看来,人脸识别应用的合法性问题并非仅仅获得当事人同意就可以解决。“从个人信息自决权的角度,个人的自决要建立在充分知情的基础上,即个人要充分了解风险,同时要求个人全程参与个人信息流动的过程,至少要留给个人监督企业使用个人信息的渠道。个人自决意味着个人随时有权对企业使用个人信息‘喊停’。”


“在当前无法完全保障人脸信息数据库的安全性的情况下,对人脸识别广泛应用的担心是可以理解的。”王锴分析指出,人脸识别的“危险”在于,一方面,人脸虽然不属于隐私,但因为人脸这种生物特征具有唯一性,通过人脸识别可以更加容易地发现个人隐私;另一方面,人脸识别要依靠大型的信息数据库,而这种数据库的安全性是存疑的,一旦被滥用或者泄露,就会极大威胁到个人隐私乃至个人的其他权利。


滥用刷脸技术属于不当使用


正因为人脸识别技术可能会导致对隐私和公民权利的侵犯,目前,一些国家和地区已经开始对人脸识别技术持谨慎甚至是否定的态度,并从法律层面加以防范。


8月,瑞典数据保护机构对瑞典一所中学因违反《通用数据保护条例》而判处约1.9万欧元罚款。原因是该机构被发现使用人脸识别技术来监控22名高中生的出勤率。瑞典数据监管机构认为,在日常环境中对学生进行摄像监控等行为侵犯了学生的隐私,即便教育部门事先取得那些学生家长的同意,但仍然没有足够的合法理由,去搜集其他人的敏感数据。再以美国为例,鉴于该项技术可能会引致对有色人种的歧视,美国旧金山市今年专门出台禁令,成为第一个禁止使用人脸识别技术的城市,该项禁令覆盖城市公共部门。此外,一些其他城市,如加利福尼亚州奥克兰市以及马萨诸塞州萨默维尔市也都提出了类似禁令建议。


中国社会科学院法学研究员、教授姚佳分析指出,对于人类来说,除了保护人格尊严等精神层面,最重要的就是对生物层面的保护,因为后者才是唯一中的“唯一”,是完全无法替代的。


“技术本身并无好坏善恶之分,但是人们利用技术的行为应接受评判,人们在应用技术之时应充分考虑技术可能带来的负面影响并将风险降至最低。技术本来是为了便捷和提高效率,滥用‘刷脸’属于典型的技术的不当使用。”姚佳说。


人工智能技术发展创新须有法律规制


显然,以人脸识别为代表的人工智能技术的急速扩张带来的法律问题不容回避,但现行法律却显得“力不从心”。目前,对于包括收集主体、目的、方法、范围与程序等在内的关键问题,法律尚一片空白,尤其是缺乏对侵权责任者的追究机制。


今年6月,国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则》,提出对人工智能治理的框架和行动指南,呼吁发展“负责任的人工智能”,即技术的发展应该符合人类的价值观和伦理道德,避免误用,禁止滥用、恶用。 


“应把保护人类能动性作为人工智能研发的底线原则。”中国互联网协会青年专家、国家能源集团研究院研究员毕竞悦认为,以人脸识别技术为代表的人工智能的发展不应妨碍人类自治,人类不从属于人工智能系统,也不应受到人工智能系统的胁迫。人类与人工智能系统互动时必须保持充分有效的自我决定权,有权选择退出。


在毕竞悦看来,科技的发展有利有弊,但总体而言利大于弊。不应因噎废食恐惧于科技的发展,而要善于利用科技增进人类福祉。在此过程中,政府主要应承担起监管和制定标准的责任。


毕竞悦具体分析说,首先,在人脸识别等人工智能系统的开发、使用和管理过程中要确保公平。开发人员和实施者需要确保不让特定个人或少数群体遭受偏见、侮辱和歧视,避免将弱势人口置于更为不利的地位。在发生危害时,可以为用户提供有效补救。政府还可以提供机制,保障特殊群体的需求。其次,透明性应成为人工智能运行的基本要求。在使用包括人脸识别在内的人工智能技术收集个人信息时,必须保障个体的知情权,并拥有选择退出的权利。再次,人工智能系统的全生命周期都必须保护隐私数据。包括用户提供的所有数据,以及在与人工智能系统交互过程中生成的关于用户的所有信息。此外,还要建立起具体、可操作的责任机制。

 

“新技术处于发展初期,法律制度不能过于严苛,需要鼓励新产业的发展,但是,当行业发展较为成熟,新技术影响到公众的生活安宁,就需要严格法律规范予以调整,就应该建立更加严格的准入和监管制度。”中国科学技术法学会常委会理事、北京市伟博律师事务所主任李伟民说。


李伟民建议尽快建立“人脸识别伦理规范”,评估新技术的价值和作用,加强新技术的行业监管。时机成熟之时,建立关于人脸识别的专门法律制度,规范大数据的采集、保管、加工、交易等环节中的法律监管,防止人脸识别过程中的信息泄露。“技术应该服务于人类、方便为人类应用,而不能成为限制人行为、伤害人生活安宁的工具。我们应该建立对人脸识别技术的风险评估、法律规范的相应制度,让人脸识别技术在一个合理范围内服务人类。” 


同时,李伟民还建议应当制定人脸识别技术应用的相关规范制度。“相关部门采用人脸识别技术应当遵守严格的程序限制,履行严格的审批、听证、公开等程序,广泛听取民意,让人脸识别技术的应用做到以‘必要’为限。” 


可鼓励地方立法先发力


目前,我国有关数据管理、数据安全以及个人信息保护等内容散见于一些法律之中。


值得一提的是,十三届全国人大常委会立法规划中,数据安全法与其他68部法律被列为“条件比较成熟、任期内拟提请审议的法律草案”。2019年十三届全国人大二次会议新闻发布会上,大会发言人张业遂称在2019年将推进数据安全法立法工作。


然而,立法加速的同时,不得不看到技术的突破和进步速度似乎更快。鉴于此,有专家建议全国人大常委会积极授权国务院和地方各级人大就相关领域先行先试相关领域立法。比如,目前,大数据、网络平台治理、人工智能、生物技术等前沿科技引发的隐私权保护等问题比较突出的地方大都位于北京、上海、广东、浙江、江苏等地方,而这些地方人大的立法专业化水平也都较高。


据了解,现在一些地方已经在积极推进人工智能立法。比如,上海市最近在《上海市促进国际科创中心建设条例》起草过程中,将人工智能、大数据等前沿科技的安全规制等问题也凝练成条款。同时,立法中还可借鉴地方立法以往采用的专业性专职委员等好的做法,将一些前沿科技治理研究的学者或者实务人员充实到立法队伍中,以加快相关立法起草的速度和质量。


此外,考虑到前沿科技涉及利益群体较多,专家建议,地方人大常委会在立法过程中要解放思想,除了一部分涉及国家安全的条款,其它部分应将开门立法的理念贯彻到底,要让民众积极地参与其中。


(MBA俱乐部读者福利:免税店折扣券,随时扫码获取)



拉姆·查兰:从职场新人到CEO,你需要六次蜕变

人工智能:机遇还是风险?我们问了300位中国高管

马云浙商大会演讲:“未来不属于互联网公司,我也已经不做电商了”

百年德鲁克,一文全了解——纪念德鲁克诞辰110周年特刊

知识是想象力的基础和来源,想象力是挖掘知识的工具,最高级的想象力是不自由的——这都是啥意思?

抓娃娃机、盲盒、泡泡玛特、夹机占、咔啦酷、口红机…“低投入、高回报”背后的残酷真相

利用“思维模型”和“跨学科思维”学习查理·芒格的思想精髓

格林斯潘谈全球经济、中美贸易摩擦和数字货币等热点话题

张五常:如何从现象出发去思考世界?

斯坦福心理教授:压力面前,除了逃避和死扛,你还有第三种选择


    您可能也对以下帖子感兴趣

    文章有问题?点此查看未经处理的缓存