【爱心公益】半夜，他偷偷在互联网上呼救

科技，为不能作战的人而战。

“嘟～嘟～嘟～嘟”

凌晨2点，桌上的电脑突然响起警报声。武纲弹簧一般从椅子上直起身体：有人正在多个店铺中寻找涉自杀商品，这一疑似自杀的风险行为触发了AI风险预警系统。

有可能有人要轻生。每月要处理类似预警2400多条的阿里安全小二武纲本能得警觉起来，但还没有足够的证据支撑这个判断；早上九点上班后，武纲迅速与这几家店铺的商家逐一联络，询问这一消费者的购买行为是否有异常，当得知他询问过“你们这个东西吃几片会死啊”，武纲心下一沉，这个人轻生的概率一下子大了。

阿里守护生命项目的劝阻机制立即启动：阿里安全首先联合阿里客服团队对这一消费者的订单进行了分析，紧急拦截；与此同时，联系商家并迅速将线索推送给当地警方；警方收到信息后非常重视，当即出警，进行上门劝阻。

然而，警方根据收货地址仅仅定位到了某小区一栋楼的2单元，这个单元有100多个住户，此时收件人的电话又屡次无法接通。“没办法，爬楼吧。”民警一方面通过警务系统联系该手机号的家属，另一方面开始挨家挨户开始敲门询问。

信息到达警方手里后，武纲一直悬着心，但有心无力，只能焦急地握着手机等消息。终于，中午12点49分，手机响起，警方传来好消息：购买涉自杀商品的人找到了，是一个13岁的小男孩。

当民警扫楼终于找到这户人家时，男孩的妈妈对他自杀的念头一脸茫然。沟通中，才知道，原来疫情期间无法出门，只能在家上网课，家长每天在家里督促男孩写作业，因其作业没有按时完成，被妈妈恶言相向、说了几句，一时想不开就想到了自杀。男孩妈妈意识到自己沟通方式的问题险些酿成大错，同在一个屋檐下竟不知自己的孩子想放弃生命。

警方向阿里安全小二武纲发来的感谢短信

01
拯救3500多人 还可以更多

此前，世界卫生组织公布的数据显示，全球每40秒就有一人死于自杀。而仅阿里旗下平台，通过商家举报、用户进线咨询、技术识别等方式，每月就预警自杀风险事件2400余起。

武纲见过各种想自杀的人，有情感纠纷、有抑郁症患者、有家庭矛盾……“大部分都只是一时的念头、冲动，如果有人能在他站在悬崖边时拉他一把，这个生命就留住了。”抱着这样的念头，武纲和阿里健康、阿里客服等多个团队的小伙伴组成了一支虚拟的“自杀干预师”团队，过去一年他们已成功劝阻3500多人。

阿里巴巴集团首席风险官郑俊芳宣布“绿网计划”开启。

这个守护生命项目又有了新进展。阿里安全在去年11月28日上午宣布了公益项目“绿网计划”的诞生。“绿网计划”关注的焦点是抑郁症等自杀人群的生命守护，珍稀野生动植物保护以及涉烟草、游戏沉迷、色情和毒品等未成年人保护。

28日，绿网计划启动仪式上，还吸引了林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星，担任“绿网计划”的形象大使，并通过录制寄语的方式呼吁大家关注。

林志玲、佟大为、王珞丹、毛晓彤、赵奕欢等11位演艺界明星担任“绿网计划”的形象大使，呼吁大家关注。

它的发起来源于网络上令人震撼数级的非正常搜索。72亿与386.7亿，这是网民在网络上进行非正常搜索的数量，72亿是阿里平台一年的数据，386.7亿是百度前三个季度的数据。

所谓非正常搜索就是网民会以软色情、破解游戏防沉迷系统、野生动植物，甚至毒品、自杀等为关键词进行搜索，这些可能对社会带来风险和不适。这些搜索背后，有些是企图作恶，更多则是好奇或迷茫。

围绕非正常搜索问题，在浙江省市场监督管理局的指导下，28日当天，阿里安全、阿里巴巴公益基金会、百度安全联合发起“绿网计划”，淘宝、闲鱼、UC、高德、优酷、夸克迅速加入。

“以前你搜违禁词，出来的就是‘抱歉，无法显示’这样的空页面，今天之后，这些页面将会换成公益宣导页。”阿里巴巴集团首席风险官郑俊芳介绍说，好比有人搜象牙，淘宝会给他推送野生象濒危、呼吁保护大象的信息。

“我们希望将这些时刻都在发生的非正常搜索，转化成为社会各界都能参与进来，一起做正向引导的公益项目。”郑俊芳说。

02
每一次求助都应得到回应

对平台而言，除了对“黄、赌、毒”和作恶者的搜索行为做坚决管控，还需厘清到底哪些用户“请求”需要引导和帮助。比如，有些搜索可能是因抑郁试图轻生的绝望呼救，也可能是沉迷游戏的少年在无奈求助。

每一次求助都应该得到回应，但回应不应该是空白的页面和冰冷的报错，这也是“绿网计划”发起的初衷。“绿网计划”上线后，涉及相关关键词的搜索页将不会再出现“抱歉，页面找不到”，取而代之的是政策法规和科普知识的宣导，以及相关合法合规的替代商品推荐。

“绿网计划”计划也不仅仅是一个公益宣导项目，它其实有一套完善的运作机制来驱动，例如武纲和他的同事们做的自杀干预项目，就是一个系统化工程。从发现潜在问题，到快速响应，到7X24小时不间断值班，到拦截流程的SOP，再到与地方公安的联动，最后反馈结果，优化流程。

每快1秒，都有可能救下一个人。在网民敲下不正常搜索词的那一刻，温暖的引导可能多带来一些希望。

阿里商业体这么做了。同时，阿里安全表示，希望更多企业加入，阿里愿意共享自己积累的能力与信息，与大家一起做一点让科技更性感的事情。浙江省市场监管局网监分局负责人也呼吁，希望有更多的平台和企业参与进来，让网络治理从事后走向事前，从惩戒转向预防，用“智理”实现“治理”。

科技，为不能作战的人而战。

产业实践 往期推荐点击标题查看文章

技术干货 往期推荐点击标题查看文章

爱心公益 往期推荐点击标题查看文章

AAIG CUP 往期推荐点击标题查看文章

更多人工智能治理和可持续发展技术

干货+产业实践分享

点击下方名片关注和星标

【阿里巴巴人工智能治理与可持续发展实验室】

为即将到来的更多治理干货点