其他
浅友们好~我是史中，我的日常生活是开撩五湖四海的科技大牛，我会尝试各种姿势，把他们的无边脑洞和温情故事讲给你听。如果你想和我做朋友，不妨加微信（shizhongmax）。
话说，在万能的淘宝上，只有你想不到的，没有你买不到的。当然，话也不能说得太满，确实有一些东西不是你想买，想买就能买。例如海洛因、象牙、H漫、安眠药、加特林机枪、原子弹。。。淘宝像一片海滩，和互联网这个凶险的大海血脉相连，只不过在这片海滩的周围安装了一圈“防鲨网”，把危险的交易都挡在了外面。于是无论是秃顶的大叔、未经世事的萝莉还是中哥这种俊美有为的青年，都可以在里面毫无鸭力地蛙泳蝶泳自由泳。这些“不让卖的东西”，用行话说就叫“禁限售商品”。大概十多年前，淘宝上对于禁限售商品的屏蔽就已经比较齐全，而且这几年随着社会的发展还在不断地增补。（你懂的，如果没做好，你今天也就看不到淘宝了。。。）现在问题来了：板凳不让扁担绑在板凳上，扁担偏要绑在板凳上。如果用户非要搜索这些“禁限售”商品，会发生什么呢？淘宝会弹出一行字：“非常抱歉，没有找到相关的宝贝。”好，问题完美解决了，今天的浅黑科技讲故事就到这里。等等，这个世界流光曼妙，树影婆娑，恐怕一切问题的答案都没那么简单。我们今天的故事，恰恰要从这里开始。主持会议的是阿里巴巴内容安全负责人江洋，他在和同学们例行讨论最近商品禁限售的问题。江洋突发奇想：“诶，能不能查一下，咱们每年拦截的非正常词搜索有多少次？”“这么多？也就是说我们“非常抱歉”的提示语一年要弹出70多亿次？？”江洋有点惊，沉思了一会儿，抬头说：“我们能不能不说抱歉？”大家一下就不困了，眼睛刷地看向他。桌边一位同学举手：“咋地，你的意思是咱们把禁限售商品卖给他们？？”人们在淘宝上搜索这些禁限售商品，不仅不利于社会主义精神文明的建设，还说明这位用户可能有强烈的“擦边”危险。我们是不是可以通过这个机会念叨一段“劝善良言”——弹出一个页面，告诉大家买象牙是残忍的，看H漫是伤身的呢？？
要知道，每年70多亿次页面展示，连起来可以绕地球三圈。哪怕仅仅万分之一的人读一读这个页面，那都可以影响70万人次。如果其中再有人真的受到影响，放弃购买禁限售商品，那必然是功德无量的好事儿。毕竟，真想买这些商品的人，在淘宝搜不到，也会去其他平台搜索，甚至去线下购买。我们不想成为他购买禁限售商品行为中的一个逗号，我们想试试通过自己的努力为他的行为画上句号。
你可以把绿网计划理解成一个“电动唐僧”，劝完大妖劝小妖，不见如来，誓不罢休。。。如果说淘宝对商品做禁限售，是为了满足监管需求，从而保证自己的持续经营，那么劝人向善的“绿网计划”对阿里巴巴有神马好处呢？答案是：似乎没什么好处，但能让这个世界变得更好一点点。赵平光荣地成为了这次“绿网行动”的项目经理。天降大任，激动到裂开。她做的第一件事，就是去后台搂一眼，到底哪些“非正常”词被搜索得最多。你可能猜不到，不是毒品，也不是黄漫，而是野生动物。小时候，赵平没少陪爷爷逛花鸟市场，大部分笼养鸟她都叫得上名。她拿来最新版野生动物保护名录一比对，大吃一惊——小时候老人养的鸟儿，例如八哥、画眉、费氏牡丹鹦鹉，现在都成了保护动物物种，养殖、买卖都需要办理相关许可证件，不是你想养，想养就能养。2020年，疫情笼罩，很多花鸟市场一夜之间就关闭了，所以线上宠物交易变得异常活跃，对各种“宠物”的搜索升高了好几倍。不看不知道，一看吓一跳。虽说像象牙这种关注度高的野生动物交易已经被淘宝屏蔽了，但是对于那些交易量比较小或者新列入保护名录的物种，显然还得做更细致划分。刻不容缓，赵平马上变身“野生动物保护侠”，行动起来。讲故事前，要先科普一个小知识：淘宝上几十亿商品，如果只靠手工筛选、屏蔽禁限售商品，那简直是大海捞针，死了都干不过来。实际上，目前的做法是“两步走”：先通过人工智能对商家挂出商品进行初筛，再交给人工审核来精细判断的。先说人工智能这一步。
赵平赶紧求助内容安全技术专家陆诩。让他的团队帮忙开发一套算法，从成千上万阿猫阿狗里挑出保护动物。拿来保护动植物名录，刚翻了几页，陆诩就后悔了。他看到了一种“金毛狗蕨”：“我去，一个植物用金毛狗来命名我就不说啥了，可你为什么长得和非保护的蕨类一毛一样啊。。。”这两种植物的区别之小，直逼王珞丹和白百何，只有根部的形态存在难以言表的细微差异，你要不是达尔文转世，根本分不清楚它们有什么区别。不信你看看，这张图里，上面的是普通的“蕨类”，下面的就是“金毛狗蕨”。自己约的活儿，含泪都要干完，陆诩只好跟团队们仔细寻找能识别微小差异的黑科技。。。常用的图像分类算法会抽取特征进行分类，但是这类细粒度算法能进行高层语义分析，比如，识别物体的轮廓和花纹。坦白讲，5%的提升确实没有达到理想的效果，但是在这个基础上再结合人工来审核，结果还是能达标的。
牡丹鹦鹉有很多种类。其中除了桃面牡丹鹦鹉，其他都被纳入《濒危野生动植物种国际贸易公约 》，属于保护动物。如果一刀切屏蔽所有的牡丹鹦鹉，就会造成“误伤”，销售合法鹦鹉的商家肯定会来投诉。所以我们必须要区分不同的鹦鹉品类。
中哥特地搜索了一下两种牡丹鹦鹉，纯纯的脸盲症要犯了。。。人工智能要区分它们，肯定又是一场腥风血雨。左边的是桃面牡丹鹦鹉，右边的是费氏牡丹鹦鹉。二者区别在于喙的颜色以及白色眼圈。看到这里，你可能会问：“用得着这么复杂来分辨图片吗？商家卖的是什么，不都会在商品描述里注明吗？”一些商家只会写“牡丹鹦鹉”，不会详细到鹦鹉的细分品类；还有个别商家会采用“黑话”，例如“费氏牡丹鹦鹉”是学名，但圈内交流时它一般被叫做“头类牡丹鹦鹉”，卖家只说自己卖的是“头类”，懂的自然懂。你看，关键词有无穷无尽的变异，图片又长得非常像，这对于人工智能来说简直是送命题——单独分析关键词或者单独分析图片，也是难度极高的。技术宅们只好开动脑筋，使用了一套“图片+文字”综合计算的多模态算法。单靠图片分辨不出来的，就靠商品描述佐证；单看商品描述模棱两可的，就靠图片佐证。就这样两个证据“相互搀扶”，算法准确率才能更高。（当然这种升级算法依然有拿不准的商品，最后还需有人工审核来兜底。）除了天上飞的鹦鹉，地上爬的乌龟，还有水里游的“长江鱼”。可能有的浅友还不知道，为了保护生态，从2021年起，咱们的长江进入了史无前例的全流域十年禁渔期。现在，任何销售和购买长江鱼的行为都会触犯法律。所以，凡是被系统识别为长江鱼的商品也会一律被屏蔽。但是长江十年禁渔是一个比较新的政策，一些买家不是有意触犯法律，只是对政策不了解，还是会去搜索。这时候，之前说到的“唐僧”一般的宣导页面就要出动了。你可以试一下，现在你在淘宝App（注意是App不是网页版）搜索“长江鱼”，就会弹出下面这个页面：如果你搜索“象牙”、“虎骨”、“捕鸟网”之类涉及野生动物的关键词，就会弹出这个页面：在这个页面里，你能看到国家的法律规定，还有王珞丹作为野生动物保护大使的宣传（王珞丹好像刚才出现一回了），还有一些野生动物生存状况的科普动画，最后是互动环节，你可以点亮对野生动物的守护，也能分享给朋友。原来我以为象牙制品很珍贵，看了动画介绍才发现，象牙制品其实并不值钱，而且跟你小时候掉的牙一样容易腐坏，并跟本就没啥收藏价值。为了这么个东西就导致一顿饭的功夫有一头非洲象被非法猎杀，实在是跟吃鱼翅一样没品。一开始赵平还担心这些科普知识会不会有错误，绿网计划的联合发起方阿里公益介绍了很多公益组织，对内容作了严格的订正，确保万无一失，才对外公开。折腾了好几个月，赵平和很多同事都养成了职业病，到哪出差先去动物园，见到动物先想想是什么科属的。。。
然而，野生动物只是禁限售类目的一部分，还有另一种东西，虽然被搜索的次数不是那么多，但却让人听起来就胆寒。说起来，淘宝对垒毒品交易的历史，比野生动物的禁售更悠久。虽然陆诩的团队也有一整套对毒品防控的算法，但坏消息是，相比别的禁售品类动辄就能接近100%的自动识别准确率，对于毒品的识别率仍不算理想。贩毒是掉脑袋的重罪，显然不会有毒贩傻到直接在平台上写明了毒品类型大大方方童叟无欺地销售。从第一天开始，他们就是奔着和法律和平台对抗到底来的。而且卖毒品的利润奇高，足以支撑坏人绞尽脑汁研究隐匿的方法。武侠小说告诉我们，好人一旦势单力孤，总有大侠出手相救。这是二小，他不是被绑架了，也不是个飞行员，因为涉及禁毒工作，不方便露出真容。二小是2019年加入阿里巴巴的，在这之前，他是一名缉毒警。警校四年，一线禁毒六年，算起来已和禁毒工作打交道十年了。妥妥的老司机。二小告诉我，几年前他还是警察时，曾经亲手抓住一个涉毒人员，仔细一看这个人竟然是当地家喻户晓的地产商，小时候每天都能听到街头巷尾流传着他的创业故事。原本光鲜的首富偶像，如今却因为吸毒身败名裂，负债累累，让人唏嘘感叹。这样的故事在二小心里攒下了很多，这些人的面孔也是一直驱使他打击吸毒犯罪的动力。来到了阿里巴巴，他发现一个独特的现象：在淘宝上试图交易“冰毒”“海洛因”这类标准毒品的人非常非常少（即使有也基本是诈骗），但是试图交易“吸毒工具”和“新型毒品”（软毒品）的人确实会零星存在。让一个不了解毒品的技术宅来判断什么是吸毒工具确实特别难，但对二小来说，这正是他的专业领域。“吸毒工具一般会伪装成化学实验器具。例如酒精灯、玻璃器皿。”二小说。为了防止产生负面影响，这里中哥就不能把二小对吸毒工具的介绍转述得太详细了，总之通过跟踪最新吸毒犯罪的动向，二小就能找到目前流行的吸毒器具的样式。例如之前出现一种“G点液”，据说是一种羞羞的成人用品。成人用品当然是可以合法销售的，但是这“G点液”。。。当时有人真的购买了这种“G点液”，结果很快就投诉到商家客服，说用了以后感到精神恍惚。这个投诉又火速转到了二小手里。二小查了所有资料，并没有监管部门处罚这种商品的案例。这可能有两个原因：1、这东西合法；2、这东西有问题，但刚刚进入市场，正在一个空窗期。此时，多年的缉毒经验灵魂附体，二小觉得此事必有蹊跷，自己下单买了一瓶这种“G点液”，送到了浙江省公安厅刑事研究院做化验。结果让他大吃一惊，里面竟然真掺杂了一种国家禁止的精神药物。就这样，二小和陆诩成为了“上下游合作者”。一旦二小发现了新的毒品或涉毒工具，陆诩的算法会立刻学习这种商品的特点，然后全平台封禁，如此往复，猫捉老鼠。既然淘宝都发现了毒品贩卖的冰山一角，难道就这么独善其身，在平台上封禁就完事儿了吗？其实，这个问题淘宝内部也讨论过，他们的结论是：不行。合格的奥特曼不能只会“躲怪兽”，还要会“打怪兽”。阿里的同学为我介绍了一位专门“打怪兽”的低调大牛，余雨。话说，余雨有很多传奇的经历，各种神秘案件的查处都有他的身影。只是他的身份比较特殊，我没办法讲他过去的故事，也没办法让你看他的真容，你就当上面的奥特曼是他就好了。自加入阿里安全部，他带领的团队主要任务就是发现互联网上的违法犯罪蛛丝马迹，并配合协助监管部门打掉作恶的犯罪团伙。余雨说，仅2020年，他的团队就向公安机关提供了几千条违法犯罪线索，协助抓获了将近一万名犯罪嫌疑人。余雨团队的惟思就是日常负责发现线索的人之一。惟思同样是警校科班出身。如果说武林高手平常手里都捧着《九阴真经》，那惟思手里捧着的就是《犯罪心理学》。他告诉我，从犯罪心理学出发，会发现一种叫做“想象力商品”的东西。例如某种A植物长得和B毒品很像。虽然两种东西除了撞脸以外完全没有任何关系，但还是会有人聚集在那交流奇怪的信息。因为瘾君子在找不到B毒品的时候，会自然联想到性状类似的A植物。
瘾君子和毒贩们以为这样就不会被发现，殊不知众多的蛛丝马迹已经成为了案件线索，他们身边的包围圈在逐渐缩小。。。故事讲到这，你会发现，在和毒贩对垒的战场上，正义力量布置了三层战壕：不仅有算法工程师筑起了防火墙，还有缉毒专家人肉巡逻，也有干预团队主动出击。这三层战壕都属于对“供给”的遏制；在需求这边，每天依然会有一些人来淘宝搜索这些词，他们有可能仅仅是出于好奇，有可能真的想“碰碰运气”。如果有人在淘宝App搜索“海洛因”、“冰毒”之类毒品相关的关键词，就会跳出来下面这个界面。从毒品量刑，到毒品危害，到科普视频，一应俱全。别看页面简单，可是每一个字句都是经过斟酌的——所有信息也专门取得了浙江省禁毒委员会办公室的支持，确保准确无误。作为前缉毒警察，二小看过太多的人间悲剧，他特别提议把“以家庭名义向毒品宣战”这个信息加入宣导页面。很多人以为吸毒危害的只是自己的身体，但我告诉你，真实情况绝不是这样。我见过有17岁的孩子为了吸毒偷偷把家里唯一的房子卖掉，有14岁的女孩为了吸毒去卖淫，送回到父母身边时已经怀孕7个月。每个吸毒的人最终都会用各种方法亲手毁掉自己的家庭，把亲人逼入深渊。所以，远离毒品并不是只为了你，更是为了你的家人。
讲到这，话题有点沉重，但生活如此，逃避也没有用。接下来的话题也许会更沉重。每天清晨，阳光都会普照大地。但阳光并没有公平地照进每个人的心里。有些人即便走在耀眼的晴空下，也难以看清前路。他们有可能是我们的亲人，也有可能是我们的朋友，是我们在乎的人。从上学时，我的老师就告诉我，医者仁心，药是给人救命的，并不是用来结束生命的。
最初武纲加入阿里巴巴，是负责平台上药品合规的监控工作。本来他的日常作是保证阿里巴巴体系内销售的药品全部合法合规，没有伪劣。但就在2019年初，他和同事们突然发现一个风险：很多日常我们都会买的合规的商品，也有可能被人用作极端用途。（我本来罗列了很多商品让你感受一下，但是武纲用经验说服我，这样可能会诱发不好的结果，所以我不得不隐去了。）设身处地地想一下，假设你现在经营一个店铺，一个人来到你店里，面色忧郁，要买一种药品。但是和别人不同，他不问药品的疗效或注意事项，单问毒性强不强，吃多了会怎样，如果一整盒吞掉会不会进医院，你会有什么感觉呢？哪怕库存里有这个商品，你可能都会告诉他这个已经卖完了，并且会询问他是不是遇到了什么问题。没错，在线上的店主同样会遇到这种情况。根据经验，如果一个人有轻生念头，往往对亲人朋友非常警惕，但是却愿意对陌生人敞开心扉，不介意透露一些信息。
而正是这些对陌生人（例如店小二）袒露出来的信息，对于挽救生命来说，比黄金还重要。最开始，他们自己定义了一些“机器规则”，一旦买家在淘宝、天猫上的行为触碰到了这些规则，系统就会弹出报警——这个人可能有轻生念头。而一旦经过人工复检认为确实存在危险，这个订单就会被冻结，无法发货。与此同时，客服会主动联系收货地址所在的派出所。守护生命计划运行了两年，效果大大超出预期，客服把情况通知警察和家人之后，会定期回访，他们得到的反馈是——自己的行动确实改写了一些故事的结局。但是，一个巨大的问题也同时困扰着武纲：“对一个人是否有自杀倾向做判断是一个严肃的事情，我们毕竟没有心理学学术背景，万一过度干预，给别人带来了困扰，怎么办？” 于是，他忐忑地联系了国家卫健委心理危机研究与干预中心，看看专业人士能不能帮忙。他对武纲说：“根据我们的调查，心理危机患者来求医的比例非常低，只有30%左右，很多患者直到走上极端道路，都没有专业人士帮助过他。如果阿里巴巴能在患者刚刚有抑郁倾向的时候就感知到他们的求助，争取救治的时机，这个太重要了！”武纲忽然明白：用户在淘宝上对于危险商品的搜索动作，其实本来就是一种求救信号。这种信号如果没有被解读出来，也许就会永远错失帮助他们的机会，造成不可弥补的遗憾。主任为武纲提供了很多专业建议，也给他介绍了几位经验丰富的医生。武纲大受鼓舞，决定再向前走一步。2019年底， 用来判断自杀倾向的“守护生命系统”迎来了一次重大升级，从之前的“机器规则判断”升级成了“人工智能算法”。毕竟死亡这个东西带有情感倾向，而为了写出算法，我必须了解自杀的心理和行为，这有点压抑。为了克服这种感觉，我一直告诉自己，这个工作是很有价值的。
她先和武纲的团队开会，了解了可以被用于自杀的商品种类，又找到很多有自杀倾向的人的行为记录，综合起来开始训练算法。这个模型上线以后，立刻就有比以前多一倍半的危险用户从阴影里浮现了出来。而且，人工智能算法还可以为用户的危险等级“分级”——一些危险等级较低的用户也许并没有那么决绝的自杀倾向，但是此时对他们进行心理危机干预反而是最佳时机。2021年1月，“守护生命”感知到了一个风险交易。有人搜索了大量特定违禁词触发了人工智能防控系统，高危预警弹出。整个办案过程武纲无从得知，根据零星的打听反馈，武纲了解到一个年轻的00后在最危急的时刻被警察挽救回来了。那个年轻人选择的死亡方式非常极端，以至于我没办法写出来。武纲自始至终也不知道这个孩子的姓名、长相和他曾经历的生活。这个故事显得很遥远，远到就像发生在平行世界的传说，但它明明又很近，一行行代码、武纲、荻月和那个未曾谋面的年轻人曾在命运的十字路口真实地撞了个满怀。江洋告诉我，仅仅在2020年，守护生命系统就发现了28000多个潜在自杀案例，协助报警2200多个。而从系统上线至今，已经协助警方干预了4400多起自杀事件。2020年底，“绿网计划”上线时，“守护生命计划”也参与其中。如果有人在淘宝App上搜索“安眠药”、“自杀”之类的词汇，就会触发宣导页面。这个页面上，有专业的心理疏导机构的联系方式，也有失眠、焦虑、双向情感障碍、抑郁症的科普视频。实话说，如果仅仅是无意触发了这个页面，我根本不会过多留意。但和武纲聊过，我明白这些页面当然不是轻飘飘的传单，它背后有一整套沉甸甸的生命守护系统，而这套系统，也曾确凿无疑地从死神手里抢回无数鲜活的面孔。2020年底，这套系统从发出警报，到人工研判，到最终行动（报警），基本会在30分钟内完成，无论白天还是夜晚。他们都在和死神赛跑。但对于武纲来说，30分钟的判断时间还是太长。因为淘宝、天猫的效率正在飞速进化，下单后30分钟，有一定的可能商品已经打包进入物流。一旦进入配送，截停它的难度就会陡增。“每当面临这样问题的时候，我就希望物流越慢越好。”武纲说。聊到这里，我突然放空，想到一个奇怪的事情：全世界的人都在期待快递快一点到达自己的手里，也许武纲是世界上为数不多的希望物流变慢的人。。。
“有时候我们的工作确实无法得到所有人理解。国家没有规定，监管也没有要求。”武纲说。“但我们还是去做了。因为我见过那些活生生的场景，知道我们曾经怎样让生命延续，让一个个家庭得以团聚。相比之下背负一些质疑和不理解，我们也愿意。”
从空中俯瞰，整个绿网计划除了有针对野生动物、毒品、自杀的宣导页面，还有针对软色情内容、防游戏沉迷破解器等等的专门页面。篇幅有限，我就不一一详述了。这套“防鲨网”刚完工，惊喜就一个接一个地找到了绿网计划团队。酒香不怕巷子深，很快各大部门都听说了这个好东西，也想尽一份力，纷纷请求在自己 App 上上线这道“防鲨网”。2020年11月28日，绿网计划在淘宝、闲鱼、UC、夸克发布；2021年1月13日，在飞猪上线；1月19日在1688上线；1月25日在支付宝上线；1月27日在饿了么上线；1月29日在优酷上线。绿网计划1.0可谓是大获成功。但江洋心里很清楚，这第一版里有很多遗憾。他又带大家埋头肝了小半年，在2021年“六一”儿童节那天上线了“绿网计划2.0”。“绿网计划2.0”的防线更大，扩展到了人身公共安全（管制刀具、危化品之类），还有个人信息安全等等一些新领域。最重磅的，这次的保护范围扩展到了未成年人群体——如果系统探测到非正常搜索是未成年人发起的，就会引导他们到专门的科普宣导页面。中国的未成年网民数已超过1.75亿，有66%的未成年人曾遭遇过网络安全事件，46%的未成年网民遭遇了各类不良信息。我们需要为孩子多做点事。
不仅是阿里内部团队，连友商们也加入了绿网计划。例如百度在绿网计划1.0的时候就同步上线；短视频平台抖音也被打动，正在筹备同步上线绿网计划2.0，还在加紧制作很多适合短视频平台的科普教育视频和公益引导教育页面。故事要停在这里了，但我并不准备给出一个昂扬的结尾。
作为从小在海边长大的人，我总在思考一个有趣的事情：去海滩游泳的人，其实绝大多数从未见过防鲨网。因为他们只在浅海套着游泳圈戏水，从没想过游到深处。在赛博世界，不也是如此么？对于绝大多数淘宝天猫用户来说，可能一生都不会看到“绿网计划”这些页面。那么，我应该把防鲨网指给他们看，还是装作无事发生，岁月静好，无知是福？说到底，防鲨网是一种对于善恶的判断。但判断善恶从来都是危险的——在接纳善的同时，你也许会纵容一些披着善良外衣的恶，在提防恶的时候，你也许会流放一些长相丑陋的善。到底应该封禁谁，又应该接纳谁，我猜阿里巴巴的技术宅一定也曾面临这样的自我拷问。我曾经相信，人们绞尽脑汁分辨善恶是一种徒劳，而用自己的善恶去框定千万人的选择是一种傲慢。但我也会时常审视自己的这个判断，因为它关乎根本，我并没有把握。今天，我也许会说：我不知道做出善恶判断是否徒劳，但这至少是一种勇气。有一段话跳到我的脑海里，这是《与青春有关的日子》最末尾的独白：有一天，我们终于发现， 长大的含义除了欲望，还有勇气、责任、坚强以及某种必须的牺牲。在生活面前我们还都是孩子， 其实我们从未长大，还不懂得爱和被爱。
P.S. 部分插图来自电影《梦之安魂曲》《红猪》《红海龟》
再自我介绍一下吧。我叫史中，是一个倾心故事的科技记者。我的日常是和各路大神聊天。如果想和我做朋友，可以搜索微信：shizhongmax。
哦对了，如果喜欢文章，请别吝惜你的“在看”或“分享”。让有趣的灵魂有机会相遇，会是一件很美好的事情。
Thx with in Beijing