AI鉴渣女？识别“不可描述的小姐姐” ？程序员：“原谅宝”可能不存在
AI鉴渣女
“鉴于很多人都在说程序员是各种退休小姐姐的接盘侠，我联合了几个小伙伴准备把各类色情网站上的视频及图片打tags后去做匹配，为码农朋友们做一个初步过滤。”
5月27日，微博用户@将记忆深埋表示，自己通过半年时间，比对了国内外色情网站和社交媒体的数据，“在全球范围内成功识别了10多万从事不可描述行业的小姐姐”。查询系统可以对美颜、Deepfakes换脸等有效对抗，同时加上步态分析、声纹识别和其他身体特征，识别率达到99%。
此言一出，舆论哗然。有网友称这套系统为“电脑版的陈冠希”，“对遏制女人的堕落有一针见血的效果，进而可以防止国家和民族的堕落”。也有人表示，这套系统的本质是“荡妇羞辱”，“细思极恐，突然觉得时刻被监视”。
一则微博，成了打开潘多拉魔盒的钥匙，质疑和争论就此产生。
成熟的智能视觉技术
5月28日，某论坛名为《原谅宝开发完毕，婚恋市场将迎来剧烈震动》的帖子引起了网友的关注。发帖者引用了@将记忆深埋发表在微博上关于查询系统的内容，并将之称为“原谅宝”。
按照@将记忆深埋在微博上描述的技术路线，他是将网站的色情视频共100TB的数据保存到了本地的一台工作站上，然后用程序搜索各个社交网站用户，保存各个用户的头像和声音，将不同社交网站用户进行聚合，再将色情视频中出现的用户精准识别出来。
随着舆论的走热，同为程序员的陈恒也关注到了@将记忆深埋所做的项目。陈恒介绍道，@将记忆深埋在查询系统中使用的能从视频中识别出现的人物的技术叫智能视觉，是现在在人工智能领域比较常见的一种技术。
用通俗的话讲，智能视觉技术就是用算法在后台不断训练系统，早期需要人工不断地给系统识别的图片打上各类标签。最终，等技术足够成熟，不需要人工干预，系统就可以自动地得出标签。
对普通人而言，智能视觉技术也并不陌生。作为全球领先的人工智能平台公司，商汤科技是中国科技部指定的“智能视觉”国家新一代人工智能开放创新平台。商汤科技相关人员告诉《中国经营报》记者，常见的智能视觉的使用场景包括智慧城市、智能手机、泛文化娱乐、智能汽车、教育、广告等多个领域。
比如常见的人脸解锁、智能美颜、智能滤镜、背景虚化、智能相册等影像技术就是智能视觉技术在手机上的体现。在电梯或者商场里，智能视觉技术可以对电子屏幕前的受众做检测分析，支持根据受众属性（年龄、性别）、行为特征（出入次数、出入地点）做广告定向播放。天眼系统也使用了部分智能视觉技术。
和传统的“以图搜图”功能不同，智能视觉技术还可以支持“以图搜片”。在国外，一个名叫PimEyes的网站上收录了超过2亿张人脸，包括从超过5000万个网站上搜集到的人脸数据。用户可以将带有脸部的图像或链接上传到PimEyes，以便在数据库中查找类似的人物。最终，搜索的图片可能导向某个新闻链接，也有可能来自某个成人视频网站。但成人网站上的人脸识别仅适用于付费的高级会员功能。
同时，用户也可以通过向网站开发者发送电子邮件，要求删除特定图像。PimEyes还和瑞典的Paliscope合作，为执法机构（LEA）提供专业服务，参与打击网络犯罪。他们甚至可以提供专业人员帮助LEA在暗网上进行调查。
真假存疑的查询系统
“视觉智能需要很多的前提，比如拍摄的清晰度，以及作为模板的人像有特定要求。作者宣称的识别准确率过高，硬件上也支持不了他的想法。”陈恒解释道。
事实上，在国内外的色情网站上，均有大量的偷拍视频存在。视频中的人物未全脸漏出、光线昏暗等情况，均会对识别的准确性产生影响。陈恒对@将记忆深埋提到的系统高达99%的准确率表示怀疑：“如果这个博主能用他自己说的一台家用工作站实现（这些功能），那他早就应该获得国家投资了。”
360人工智能研究院研究员刘洛麟在接受《AI前哨战》采访时表示，目前人脸技术相对成熟，在百万级数据库的检索和比对上达到准确识别问题不大，但前述程序开发者提到的这么大数据量，视频解码、AI计算的成本会非常高，需要大规模的GPU集群。
除此之外，陈恒还表示，@将记忆深埋获得用户数据的方法也经不起推敲。用户信息属于社交网站的核心资产，获取过程极其困难。一般情况下，大部分人会选择爬虫技术获取网站的用户信息。但成熟的社交网站，比如微博、Instagram等，都有更加成熟的反爬虫技术。在此情况下，个人还能顺利获得社交网站的用户信息，难度极大。
陈恒查询了@将记忆深埋提供的Gitlab地址，发现里面并没有系统的代码。GitLab 是一个用于仓库管理系统的开源项目，使用Git作为代码管理工具，并在此基础上搭建起来的web服务。@将回忆深埋则以害怕违法和系统准备商业化为由，拒绝开放API或查询页面，也没有公布论文或开源算法。
在接受《极昼工作室》采访时，@将记忆深埋称自己考虑过营利，但并未透露具体的营利模式。@将记忆深埋表示自己的团队一共有7个人，来自不同的国家，大家是趁业余的时间从事系统的开发工作。自始至终，整体花费超过了20万欧元（约合人民币155万元），都由自己个人出资。
没有使用者现身说法，没有可供查询的代码，在某种程度上，这套神乎其神的查询系统是否真的存在，除了@将记忆深埋，没人知道。
“科技本身不具备道德”
从技术角度上讲，偷拍视频的识别存在难度；从道德层面上讲，偷拍视频的再次传播对被拍摄者而言无疑是二次伤害。
面对质疑，5月28日，@将记忆深埋在微博中表示，所有偷拍视频都会被单独分配在一个数据库，查询者只能是本人。查询之前，用户需要先通过eID（网络电子身份标识）进行认证，并人脸识别从政府部门查询返回的相片和用户自己上传的相片做二次认证。
如果有人发现自己被偷拍并被识别，系统会提示用户向原色情网站提交DMCA（美国的《数字千年版权法案》，是保护网络作品著作权的法律依据）等要求删除；私下兜售视频的，也会相关采集数据并匿名发送给公安机关。
如何甄别普通视频和偷拍视频？@将记忆深埋给出的答案十分笼统：“通过摄像机的角度和位置来区分。”
在接受搜狐《极昼工作室》采访时，@将记忆深埋的说法又发生了变化：从偷拍视频的查询者要通过eID实名认证，变成了整个查询系统都需要通过eID实名认证后才能注册登录。但在中国，eID的普及度不高，国家也没有在法律层面推行。
东莞理工学院知行学院专职副院长苏亚玲表示，如果把@将记忆深埋所说的系统用于寻找走失或被拐骗的妇女儿童，会很有价值。但把这套系统用到两性关系当中，非常危险。“良好的亲密关系是以信任与尊重为基础。”
在苏亚玲看来，如果有人真的想要使用这个系统来监视伴侣，这部分人反而可能是需要帮助的，因为他们缺乏构建安全型亲密关系的能力。“我觉得他们在亲密关系中不够自信，没有安全感。”
“科技本身不具备道德，所以掌握知识的少数技术人员便必须肩负起产业的道德和责任，最基本的底线应该是不用高于普通群众的知识和技术来侵犯、剥削那些不具备同样能力的个体。”在微博网友StarTalers_星元看来，@将记忆深埋的做法是为了满足一己私欲的“炫技”。
面对铺天盖地的质疑，@将记忆深埋扛不住了。5月31日，@将记忆深埋发表微博称：“我终于败给了自己写的程序！”一个小时之后，他宣布取消原本计划的直播采访。“我会删除这个项目，目前已经执行完数据删除命令。100多TB的数据在半小时内会彻底清空。”
@将记忆深埋删除了自己微博上和查询系统相关的内容，最后一条微博的更新记录停留在5月30日凌晨，内容为推荐反偷拍设备。
律师：开发者的行为涉嫌违法
上海汉盛律师事务所高级合伙人李旻表示，@将记忆深埋采集色情网站和社交网站上用户个人信息的行为已经涉嫌违法。“采集用户信息的行为是否违法，取决于用户选择公开信息是否等同于同意该信息被收集。就我国来说，基于对用户个人隐私的保护，一般认为，收集使用用户公开的个人信息仍需取得其同意。”
此前，谷歌曾研发出一个能够装在智能手机上的街景软件。当这个软件扫描街景时，也可将路过的行人面部信息采集，引发公众极大的不满。随后，该款谷歌软件被迫做出修订，对人脸信息打马赛克。
李旻介绍道，就目前披露的信息而言，@将记忆深埋称该软件查询的结果并非向所有人公开，且亦没有考虑上线APP，因此，在其没有传播数据的情况下，现阶段其违法行为主要表现为未经用户同意采集其照片等信息。但抓取用户信息涉嫌侵犯他人隐私权，而根据对比结果认定其疑似从事色情行业，如果该识别结果存在误判，则涉嫌对其名誉造成侵害。此外，还可能存在侵犯他人著作权等法律风险。
“我国暂未对侵犯隐私的程度进行规定，但从需要承担的法律后果来说，侵犯他人隐私的行为可能要承担民事赔偿责任，或者受到行政处罚，行为严重的，还将受到刑事处罚。”
李旻建议，作为用户来讲，应当对其不想被他人所知的信息，进行加密或设置访问权限，避免该信息被他人利用。在发现自己的隐私被泄露后，应当第一时间联系发布该信息的网站，要求其删除信息或断开链接，并告知信息上传者的身份，便于后续通过法律途径维护自己的权利。如网站未在合理时间内删除或断开链接的，应当承担连带责任。“需要注意的是，应当在网站删除前，保存好上述侵权行为存在的证据，必要时可以进行公证。”
@将记忆深埋曾多次在微博上表示自己并非中国公民，日常工作和生活都在德国。对此，李旻表示，@将记忆深埋并未有公开数据、将软件上线运行等行为，因此就现阶段来说，我国对其并不享有管辖权。
但根据欧洲监管机构在2018年5月生效的《通用数据保护条例》（General Data Protection Regulation）中嵌入的一套原则，规定包括“脸纹”在内的生物信息属于其所有者，使用这些信息需要征得本人同意。由此来看，即便@将记忆深埋身在德国，也依然违反了相关法律。
（应采访对象要求，陈恒为化名）
（校对：颜京宁）
推荐阅读
点击大图 | "霸道女行长"落马：逼丈夫砍手指发誓，单位员工成家里钟点工
推荐阅读
点击大图 | 必须曝光这场资本炒作！天价苹果的幕后，竟是这一群“庄家”！