Google对外开放图片过滤工具，说是为了保护儿童隐私

中摄协影像中文网 2019-07-12

很多父母都喜欢在网上晒娃。但他们永远猜不到，自家孩子的照片会被变态拿去干些什么。

两年前，Nicola还是一个很喜欢晒娃的人。突然有一天，Nicola在网上收到了一条通知：有一个陌生账号（并无任何关联好友也不在同一地区之类）转载了Nicola曾经发过的大量照片。账号的所属地显示加拿大，头像是卡通人物，用户名看上去是虚构的。为什么会莫名其妙转发这么多自己的照片？Nicola顺着这个账号的线索搜索了一番，发现在脸书和推特上，随意把她孩子的照片拿来当头像的账号还很多，其中有一些还是涉及到儿童色情内容的账号。Nicola立刻打电话报了警。

31岁的Gemma的账号一直被设为私人账号，即必须通过申请才能查看内容。可她的账号还是出现在各种儿童色情账号里。今年1月，Gemma收到了一个INS模特推广页面的朋友请求。她接受以后，突然间收到了100多个好友请求，全是一些不认识的男人。点开他们的个人资料，上面都是儿童色情照片。而Gemma在那个模特推广账号上看到了自己儿子的照片——她儿子当时因为身上沾满了玩具油漆，不得不脱掉衬衣。而下面的评论让她感到恶心。最后Gemma注销账户。

32岁的Alexandra，她孩子的萌照被人盗用来重新建了一个账户。那个账户中有30多张她孩子的照片，描述文字中还用了孩子们的真实姓名，但很多话却和Alexandra发的时候不一样。这个陌生账号完全把Alexandra的孩子想象成了自己的孩子，描述方式、语气似乎就像是孩子们真正的母亲。Alexandra发信息让对方停止继续这样做，却没有收到回复。Alexandra也不知道该怎么去阻止这个账号继续发图，又或者和这个账号中400多甚至更多的粉丝解释：“这一切都是假的！是这个人盗用了自己的孩子的照片！盗用了自己的家庭生活！”

根据网络安全公司McAfee发布的最新研报显示，仅在英国，每年大约会在网络社交媒体上发布13亿张自家孩子的照片。而在英国的活跃社交账号中，保守估计有8万名恋童癖。

为了避免更多儿童被侵犯的图片出现在互联网上，9月3日， Google通过官方博客宣布开放一项审查工具Content Safety API，这项技术能够帮助内容审查人员快速批量识别与儿童侵犯有关的图片，减少这些内容的曝光。

API将免费提供给NGO 组织、科技公司等任何合作伙伴，包括任何提供内容的社交平台或者搜索引擎。Google解释说这套算法的能力在于自我学习，让图片审查的速度和效率大幅度提高。

目前的图片自动审查工具运行验证机制，依靠之前人类和机器标记过的图片，等于说首先要有一个图片库，后来的图片与其中的某些相似，才会被评判为违规。

这会带来识别范围的限制，Google在文章中解释说，Content Safety API的神经网络会自己学习与判断哪些图片涉嫌儿童性侵，而不需要与图库中的图片一一比对。

经过验证，Google已经发现这套机制能让审查员发现比原本多7倍的违规图片。

但无论怎样的防范技术，根源还在于做父母的到底该拿什么保护好自己的孩子。

“如果我们可以自己掌控，也许我们也不愿意自己各种光着身子、哭泣大闹、出丑的照片，被发到网上给亲朋好友，甚至不认识的网友们观看啊！”

其实，很多父母在发布自己孩子的照片时，并没有征求孩子的同意，甚至根本没有要征求他们同意的意识。从孩子的角度而言，这算得上是父母对自己的隐私的一种侵犯。

所以，现在也有媒体在呼吁，希望父母们在网上晒娃的时候，一定要慎重。

千万不要把自己孩子的照片当成个人资料的头像、封面，让所有人都可以浏览到。

在网上分享孩子照片的账户，最好把个人资料都设置成私密的，限制陌生人观看自己曾经发过的内容。如果不想删除之前发布的照片，也确保那些内容只有一部分亲友能看到。