潘多拉魔盒打开？有人想用人脸识别技术，查询女友拍过的不雅视频

近日，一则关于“原谅宝”人脸识别App的消息在网上引起广泛关注。截至5月31日上午，微博相关话题已有近1400万阅读量，知乎“如何看待原谅宝”的问题有455万的浏览量、七千多个关注者。

消息称，该App可以采集色情网站和微博、抖音、Facebook等社交媒体上的影像数据，通过人脸识别和行为识别技术，识别出曾经出现在色情影像中的女性。

AI前哨站找到了消息源头，微博网名为“将记忆深埋”的程序开发者。他在微博中否认开发了“原谅宝”App。不过，他表示，的确开发了能交叉比对色情网站和社交媒体的程序，本意是为了让男性更好地了解未来的伴侣，“让即将结婚的双方都拥有知情权”。

“将记忆深埋”告诉AI前哨站，经过半年的实验，他已经识别出10 万名女性，但他不会公开训练模型和算法。

AI前哨站目前无法确定这个程序的真实性。不过，相关消息已经在网上引发了许多技术、法律和伦理方面的争议。

程序开发者“将记忆深埋”称，通过对比色情网站数据与社交媒体数据，他已成功识别出10万名女性的身份。图自“将记忆深埋”微博。

争议点一：

这一技术是幻想？还是现实？

针对程序本身的可行性，相关专业人士表示，当前的技术发展水平已足以支撑。

云从科技高级品牌经理傅小龙告诉AI前哨站，人脸识别对画质的清晰度要求不高，只要16*16像素的人脸图像就够了。现在也有成熟的开源人脸识别模型，已经过千万级或者上亿的数据训练，开发者只需要对现成模型调节参数即可。

360人工智能研究院研究员刘洛麟也表示，目前人脸技术相对成熟，在百万级数据库的检索和比对上达到准确识别问题不大，但前述程序开发者提到的这么大数据量，视频解码、AI计算的成本会非常高，需要大规模的GPU集群。

争议点二：

这一程序是否打开了潘多拉魔盒？识别渣男也可以？

人脸识别技术日新月异，应用场景非常广泛，但如何保证应用过程的透明公开、应用结果的安全可信？

正是由于担心人工智能尤其是人脸识别技术的滥用风险，这两年，国内外纷纷推出相关的伦理准则。欧盟在今年4月发布了人工智能伦理准则，对人工智能系统提出技术稳健性和安全性、隐私和数据管理、透明度等方面的要求。经济合作与发展组织也推出了类似的政府间《人工智能建议》，包括美国在内共有42个国家签署了这一建议。中国也有诸多组织发布了共识性文件。

在人工智能伦理准则尚未完善的今天，识别色情从业者的程序又是否打开了潘多拉魔盒？不少网友从这一程序联想到其他应用方式：

微博网友“没有羊先生”：“支持这个点子的人，主动把个人信息贡献出来建立数据库不就好了？女生约会前都能在数据库里查到你名字，反正你洁身自好肯定就不会有坏女孩找你接盘。就叫‘好男孩’数据库吧。”

微博网友“啊哈小墨”：“说真的，没程序员开发个女版原谅宝么，把那些偷拍视频、出轨新闻、嫖娼被抓新闻的男主角人脸识别一下的，同时鼓励被出轨的妻子们积极上传丈夫的出轨证据。”

微博网友“没有羊先生”表示可设计“好男孩”数据库。图自微博。

值得注意的是，程序的支持者也不少。有网友认为，“不管这个东西效果怎么样，搞出来了还是很有震慑力的。人们会更崇尚良好风气，不敢随便来”。也有人说“非常看好这个项目，市场需求非常大”。

争议点三：

未经当事人同意抓取照片进行匹配，合法吗？

程序开发者强调，他会遵守法律条文，不会公开数据做搜索引擎。但据AI前哨站了解，可能触犯法律的行为不仅仅是数据公开，还有数据使用和处理本身。

浙江垦丁律师事务所律师麻策表示，假定这个程序是真的，爬取色情网站和社交媒体的图片视频进行比对，提炼出的信息是面部特征信息，属于个人信息。在未经本人同意且未去除个人信息特征的情况下，比对和提供查询等使用个人信息的方式，都不符合《网络安全法》的要求。

程序开发者也承认，不同国家或地区有不同的法律条文，他的律师正在研究这个程序是否能上线。

争议点四：

谁有权利查询他人的色情视频或图片？

程序开发者在微博解释说，为了避免数字滥用和相应的法律风险，该程序需要在本人同意的情况下，才能查询本人是否存在色情视频或图片。

开发者称，可通过eID（网络电子身份标识）进行实名认证。本人的eID、人脸识别认证和从政府部门查询系统返回的个人头像三重验证通过后，才能获得比对结果。

但有网友质疑，用户的eID和人脸信息上传比对后，开发者能否保障这些隐私数据的安全？其中可能有另一重隐私泄漏风险。

争议点五：

被偷拍的女性怎么办？当事人二次伤害如何解决？

现有的网络传播的色情视频中，不少是第三方偷拍，或者在未经女性许可的情况下偷拍的。近年屡屡有新闻曝出有人偷偷在酒店、民宿、甚至是出租房等场所安装了针孔摄像头，偷拍他人视频和图片。

有网友认为，如果这些色情视频是偷拍的，会给当事人带来二次伤害。在网友的质疑下，程序开发者随后表示会将偷拍视频放在另一数据库中，帮助受害女性找到并向相关网站申请删除视频。

AI前哨站注意到，面对越来越多的质疑，程序开发者也重新解释了这一程序的用途，从刚开始的帮助“接盘侠”了解未来伴侣，演变成“帮助被偷拍的受害者找到他们的照片和视频是否被传到了色情网站上”。

问题是，色情影像到底是不是偷拍而来，技术如何区分？

大西洋彼岸，欧盟早已明确“被遗忘权”，即人们有权利要求移除关于自己的负面信息或过时的个人身份资讯搜索结果。据外媒报道，不少支持这一权利的人正是因为，跟个人姓名关联的报复性色情信息出现在了搜索引擎中。报复性色情信息指，被甩的情侣一方，通常是男性，将前任伴侣的不雅照片、姓名、地址和工作单位同时传到网站上。

AI前哨站认为，无论是否偷拍、无论是否从事或从事过色情行业，每个人都拥有受法律保护的隐私权，每个人也有尊重他人隐私的义务。“接盘侠”本身，就是一个歧视意味浓厚的词汇，从性别平等的角度上看，这一程序的出发点，与其说是让结婚双方拥有知情权，不如说是看重女性贞洁的父权制下的落后思想。

目前，该程序开发者已经清空其微博上的所有相关言论，并声称正在删除项目，100多TB数据将会被彻底清空。同时他表示，这几天的言论给太多人造成了不便，“深深的感到抱歉”。

9012年的今天，你是怎么看的呢？欢迎加入探讨！

报料请点击 

推荐阅读：