利刃出鞘 “白泽”让网络暴力无所遁形
2022年6月28日，抖音举办预防治理网暴开放日，屏蔽和举报不当评论、私信临时对话设定、一键防暴等新功能宣布正式上线。
2022年以来，在东航客机事故、唐山打人等重大、热点事件中均出现了不同程度的网暴现象，对当事人的名誉、权益与精神造成很大损害，甚至已打破道德底线，伴随着侵权行为和违法犯罪行为。
网络暴力治理难在哪里？
据统计，超过50%的网暴行为由重大灾难、悲剧人物等现象引发。一些网民的初衷还是希望“惩恶扬善”，结果可能误伤了无辜，或者在羊群效应之下被带了节奏。网暴很多时候成为一种以正义之名的猎巫狂欢。
《2020年全国未成年人互联网使用情况研究报告》显示，未成年网民在网络上遭到嘲讽谩骂的比例达到19.5％，自己或亲友遭到骚扰的比例达到7.2％，个人信息未经允许被公开的比例达到4.9％。
关于网络暴力，中国政法大学传播法研究中心副主任 人民中科研究院首席专家朱巍说道：网络暴力分为以下几大类别：
所谓的“标题党”，包括断章取义、“带节奏”“扣帽子”；
在网络暴力中一般伴随着人肉搜索，按照这个就涉及侵害公民个人信息的犯罪。
因为网暴具有“微暴力、重伤害、众参与”的特征，治理存在以下难点：
首先是判断难，网暴和非网暴的界限模糊；网暴的留言聚集速度和数量，难有量化标准。
其次，网暴内容机器识别难，比如利用谐音、缩写发布带有挑衅、讥讽意味的言论或者P图，介于批评与网暴之间的内容，机器均难以识别。
第三，遭网络暴力侵害后取证难举报难，专家介绍，目前由于网民在遭受网络暴力侵害后，取证、举报等环节比较复杂，这也成为网络暴力不断滋生的原因之一。
2022年4月，上海疫情期间，一名女子因担心自己独居在家的父亲，托外卖小哥给自己的听障父亲送去必需物资，并给予外卖小哥200块打赏。但是却被网友指责在疫情这么严重的时候，居然只给外卖小哥200块打赏。随之而来的是无限度的网络暴力，在遭受到网络暴力之后，这名女子最终选择了跳楼。
网络空间不是法外之地，网络暴力者不仅无情，也践踏了法律。
根据我国刑法第二百四十六条规定，以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。宪法第三十八条也明确指出，禁止用任何办法对公民进行侮辱、诽谤和诬告诬陷。
2020年7月，谷女士到小区快递点取快递时，被附近便利店店主郎某某偷拍。郎某某与何某某编造“富婆出轨快递小哥”的对话内容发至微信群。之后，上述偷拍的视频、捏造的微信聊天记录截图被他人合并转发，并相继扩散到多个微信群、微信公众号等网络平台。此事在网络不断发酵，谷女士因此被辱骂，遭公司劝退，被医院诊断为抑郁状态，她直言经历了“社会性死亡”。
2021年4月30日，杭州市余杭区人民法院作出判决：被告人郎某某犯诽谤罪，判处有期徒刑一年，缓刑两年。被告人何某某犯诽谤罪，判处有期徒刑一年，缓刑两年。
法学专家：多方合力，治理网络暴需夯实平台责任
互联网不是法外之地，更不能成为有害信息滋生、传播的土壤。近年来，许多国家持续出台网络安全法案，加大了依法治理网络乱象的力度，强化网络平台的日常监管，重点整治网络暴力、散播谣言、侵犯个人隐私等问题，努力净化网络生态。
在今年全国两会上，最高人民法院工作报告强调：“对侵犯个人信息、煽动网络暴力侮辱诽谤的，依法追究刑事责任。”最高人民检察院工作报告强调：“从严追诉网络诽谤、侮辱、侵犯公民个人信息等严重危害社会秩序、侵犯公民权利犯罪”。网络虚拟空间，依法治理要实，治理网络暴力、清朗网络空间是其中重要内容。
朱巍表示，网络言论自由需要“表达有边界”，不能侵害到别人的合法权利，不能违反法律法规，不能违反公序良俗的原则。治理网络暴力不仅要完善相关的法律法规，各大网站平台也要主动承担起治理的主体责任。
（图片来源闪电视频）
朱巍认为，“言论自由”与“网络暴力”存在法律边界，法不责众的认知是错误的。对网络暴力的预防和制止，离不开平台、网民、行业协会、司法系统等多方主体协调，只有形成合力，才能杜绝网暴。
利剑出鞘，“白泽”让网络暴力无所遁形
开放日上，抖音也介绍了在预防治理网暴中存在的困难和局限，如在“快速”与“精准”之间难以兼顾等。现场专家呼吁，通过多方协调形成合力，可以提升有效治理网暴的能力。
任由网络抹黑、网络暴力蔓延，每个人都有可能成为下一个受害者。只有利剑出鞘、重拳出击，让网络暴力无所遁形。
人民中科跨模态智能搜索引擎“白泽”，利用跨模态深度特征表示与度量学习技术，将文字、图片、语音和视频等不同模态信息映射到一个统一的特征表示空间；以视频为核心，学习多个模态间统一的距离度量，跨越模态语义鸿沟，进而自动关联多模态间的关键要素，可实现跨模态的文本搜图片、文本搜视频、图片搜视频、视频搜视频、图片搜文字、视频搜文字等功能，进而实现更为复杂的跨模态任务。
在使用上，“白泽”无需配置传统内容搜索所需的复杂匹配规则，通过自然语言描述即可快速检索出相同语义的视频，可有效应对新事件和突发事件，同时不需要依赖大规模算力，资源复用率高。
观看视频了解“白泽”
此外，“白泽”不仅可以用于指定主题的自动推荐，也可以进行专题内容的高效采集，还能对融媒体矩阵内容进行巡检核查，实现智能风控。
除此之外，基于“白泽”的跨模态监测能力，人民中科开发的内容审核及巡检系统可以实现对跨模态内容数据进行自动识别，人工智能技术将对涉及反动、敏感、违法、低俗信息的内容进行预警标识，随后转交人工审核进行复核，并对复核无误的信息内容予以存档取证，同时还将提供统计查询等基础功能。该系统不仅可以实现对互联网的日常监测，还可以实现对指定APP、指定行业、指定内容、指定地区等专项任务的支持。
监制：李红梅
END
参考来源：
1.《央广网评｜整治网络暴力 愿每一个“刘学州”都能被善意礼待》央广网
2.《经济参考报：治理网络暴力需要精准系统的法律》网信陕西
3.《压实责任，筑牢“平台堤坝”》人民网
4.《还网络空间天朗气清 网络暴力怎么治？》环球网
5.《治理网络暴力需要精准系统的法律》中国证券报
6.《深观察｜网暴“微暴力、重伤害”，需对症下药》澎湃新闻
7.《难以兼顾“快速”与“精准”，专家呼吁多方协调合力治理网暴》新视线
8.《网站平台推出多项功能预防治理网络暴力 专家：杜绝网暴需多方形成合力》齐鲁网·闪电新闻