谷歌发布AI工具 识别儿童性虐待图片

谷歌今天宣布一项新的AI技术，旨在帮助识别网上儿童性虐待材料，以及减少此内容的浏览量。

该互联网巨头采取这项措施的原因是之前“协助”违法者在网上传播儿童性虐待材料。上周，英国外交部长Jeremy Hunt在推特上指责谷歌重返中国的计划，因为在其它国家，经过审核的搜索引擎并不会帮助移除儿童虐待内容。

谷歌正在考虑审查其进入中国的内容，但不会与英国、美国和其他5个国家共同消除虐待儿童内容，这似乎不同寻常。过去，他们为以价值观为导向而感到自豪。

——Jeremy Hunt，2018年8月30日

今天早些时候，英国内政大臣Sajid Javid发布了一项新的政府“行为号召”，推动谷歌和Facebook等科技公司采取更多的措施来对抗网上儿童性虐待图片。英国国家犯罪调查局发现，约有80000名的英国用户在网络上会对儿童产生威胁，这一倡议也是在这一数字公开之后发起的。

当然，谷歌选择在今天宣布这一技术的时机绝非偶然。

神经网络

谷歌这一新的工具是基于深度神经网络（DNN）构建的，通过新的Content Safety API，可供非政府组织和其他“产业合作伙伴”免费使用，包括其他的科技公司。

去年有一则新闻，伦敦警察局专注于一种AI解决方案，能够训练机器对干扰图像的严重性进行评级。这一解决方案旨在解决两个问题——它会帮助加快网上儿童性虐待材料的识别速度，也能够帮助手动浏览相应图片的审查人员缓解因此遭受的心理创伤。

谷歌的新工具能够协助大力推动这一举措的实施。在以前，自动化工具依赖同之前识别出的儿童性虐待图片进行匹配。工程主管Nikola Todorovic和产品经理Abhi Chaudhuri共同发表的一篇博客称，谷歌表示，有了Content Safety API，能够锁定之前未被证实为儿童性虐待材料的新内容，从而能够高效地追踪到违法者。

“快速识别新图像意味着更有可能识别出当前受到性虐待的儿童，从而保护他们不再受到侵害，”他们表示：“我们会通过Content Safety API（一个开发者工具包，能够增强浏览内容的能力，只需要少数的人类干预），将这一工具免费提供给非政府组织和产业合作伙伴。”

现在大多数的技术公司都使用AI来监测从裸体图片到恶意评论等各式各样的冒犯性材料。“这一举措将大大提高对潜在儿童性虐待材料审查过程的速度，”Todorovic和Chaudhuri继续说道：“我们已经亲眼目睹了这个系统可以帮助审查人员在同等的时间下，使审核内容的速度提高700%。”

谷歌的合作伙伴组织联合国慈善机构互联网观察基金会（IWF）参与了这一工具的发布会，该机构的使命是“尽量减少‘潜在犯罪’互联网内容的可用性，特别是儿童性虐待的图片。”

“我们，特别是我们的专家分析师，对开发AI工具感到非常兴奋，这种工具可以帮助我们的人类专家更大规模地审查材料，并通过锁定以前未被标记为非法的图像，从而追踪违法者，”IWF首席执行官Susie Hargreaves补充道：“通过分享这项新技术，可以加快图像的识别速度，从而使互联网成为更安全的地方。”

原文作者：PAUL SAWERS

编译：信息化观察网

往期精选

围观

热文