“震惊全球”“转发救命”的谣言背后，是一次次精心策划的传播操纵
点击上方蓝字，关注我们！
原文作者：Noemi Derzsy
一项研究瞄准了社交媒体平台上的在线仇恨团体，揭示了为何当前封禁仇恨内容的做法是无效的。作者还根据分析结果给出了四种对抗仇恨言论的策略。
网络仇恨的生态系统为何能在社交平台上经久不灭？我们又有怎样的对策能够有效地减少它们的存在？Johnson等人[1]针对这些问题在《自然》发表了一篇很有意思的论文。他们对多个社交平台上的仇恨群体行为进行了详细分析，不仅揭示了这些网络仇恨团体的结构和动态特征，还根据分析结果提出了减少仇恨内容的四种策略。
图1|Facebook的管理员正在删除仇恨内容。Johnson等人[1]研究了Facebook和VKontakte这两大社交媒体平台上的仇恨团体动态，并根据研究结果提出了应对网络仇恨的四种策略。| 来源：Gordon Welters/NYT/Redux/eyevine
我们生活在一个社交圈高度互联的时代。人们在任何地理位置所分享的看法都不会仅仅停留在当地，而会借助社交媒体飞速传向全世界。意见的高速传播既给仇恨言论的管理者带来了难题，也给邪恶组织在全球范围内传播其主张和发展新成员提供了机会。当社交媒体的自身管理不够高效时，网络生态系统就会成为一种强大的极端化工具[2]。因此，理解仇恨社群动态的背后机理变得至关重要。只有如此，才能够在网络舆论战场中提出有效的应对策略。
Johnson等人选择了Facebook和VKontakte（俄罗斯最大的在线社交网络）这两大社交媒体平台，并对平台上仇恨团簇的动态展开了长达数月的观察研究。团簇在这里指的是将拥有相似观点、兴趣或是公开目的的个体组织起来的线上主页或群组。这些主页和群组会列出其它类似群组的链接，让用户加入。
作者根据这些链接编织了一张团簇之间的连接网，并借此追踪一个团簇的成员是如何加入其他群组的。如果两个团簇（主页或群组）互相给出对方的链接，这两个团簇就被认为是相连的。作者使用的方法有一大优势，就是不需要获取团簇成员的个人信息。
Johnson等人表明，网络仇恨团体是由一个个弹性极强的团簇组成的。团簇中的用户并不按照地理方位聚集，而是通过“公路”实现全球互联。这些“公路”大大提高了网络仇恨跨越不同国家、大陆和语言的传播速度。
当团簇被攻击时，比如被平台管理员删除时（图1），它们会以极快的速度自我修复并重新建立连接。不同团簇也会因为共同成员形成更强的连接力，就像是共享电子的化学共价键那样。某些情况下，两个或两个以上的小团簇还会合并为一个大团簇——作者将这种合并过程比作两个原子核的聚变。
作者用数学模型证明，只在单个平台上封禁仇恨内容，会激化整个在线仇恨生态系统，滋生更多平台管理员无法发现的新团簇。在这种被作者称为“黑水潭”的团簇中，仇恨内容可以不受限制地继续活跃。
管理在线社交媒体平台谈何容易，政策制定者一直无法给出熄灭网络仇恨的可行方法。封禁和删除仇恨内容的做法已被证明是无效的[3,4]。过去几年里，对网络仇恨言论的举报越来越多[5]，这说明人们正在输掉这场对抗仇恨内容扩散的战争。对我们社会的公序良俗而言，这是个令人不安的信号。还有证据显示，接触或参与社交媒体上的网络仇恨，也会助长线下的攻击性行为[6]。报告显示，部分暴力仇恨犯罪者曾参与了这类内容[7]。
过去的研究（如参考文献8）总是将仇恨群体视为独立的网络，或是将相连的团簇一并视为一个整体网络。而Johnson等人所采用的新方法，将各个仇恨团簇构成的整体看作一个“网络构成的网络”，从这个角度研究它的互联结构[9-11]。在这个系统中，团簇本身就是由“公路”互连的网络。此外，作者还基于研究所揭示的网络仇恨生态系统的结构和动态机理，提出了四种有效的干预策略。
目前，社交媒体公司必须决定哪些内容属于禁止发布的，同时还要应付海量的内容以及因国家而异的法律和监管规定。作者给出的四条干预建议考虑到了封禁群组和个人用户涉及的法律考量。值得一提的是，作者提出的四种策略可以由各个平台独立实施，而不需要相互分享敏感的信息。毕竟大多数情况下，未经用户明确同意分享用户信息的行为是违法的。
策略一
作者建议打击相对较小的仇恨团簇，而不是取缔最大的那个。这个策略的根据是因为作者发现网络仇恨团簇的规模服从幂律分布——大多数团簇都较小，只有极少数团簇规模很大。可以预料的是，铲除最大的只会导致无数小团簇奋起形成大团簇。相较而言，小团簇在数量上更多，意味着它们更容易被发现，而消灭这些小团簇也能够防止新的大团簇出现。
策略二
无论团簇是大是小，封禁所有用户只会激怒整个仇恨群体，引发对社交媒体平台侵犯言论自由的指控[12]。为了避免这种情况，第二个策略建议只封禁少数随机选择的团簇成员。这种随机打击的方式并不需要对用户进行地理定位，也不需要使用敏感的个人资料信息（因而也无法针对具体用户），从而避免触犯个人隐私条款。但是，第二种策略的有效性高度取决于目标社交网络的结构，这是因为网络的拓扑特性会在很大程度上决定它们对随机故障或是恶意攻击的弹性。
策略三
作者发现，团簇最初是从一个无序的用户群体中自组织而成的，因此，第三条策略建议平台管理员帮助反仇恨用户进行这种自组织，让他们发挥类似“人体免疫系统”的作用，打击仇恨团簇。
策略四
这个策略基于一个事实，那就是很多网络仇恨团体都有不一致的观点。这一策略建议平台管理员引入一组虚构的用户，在这些有着相矛盾主张的仇恨团簇之间“煽风点火”，引发它们之间的对立和冲突。模拟表明，这种“厮杀”能有效消灭观点对立的大型仇恨团簇。
策略三和策略四一旦付诸实施，几乎不需要来自平台管理员的干预。不过，引发团簇之间的冲突确实需要非常缜密的策划。
作者建议在评估每种策略的优缺点时需要十分谨慎，因为这些策略的可行性取决于可用的计算资源、人力资源、以及隐私条款的要求。此外，优先选择某一策略的决定必须基于实证分析以及对这些团簇的细致监视所得到的数据。
过去数年的经验告诉我们，想要有效解决网络仇恨言论和线上社交媒体平台触及的法律与隐私问题，不能只寄希望于哪一个行业，而是需要科技公司、政策制定者和研究人员的共同努力。Johnson等人的研究提供了宝贵的洞见，他们所提出的策略也可以作为未来行动的参考指南。
参考文献：
1. Johnson, N. F. et al. Nature 573, 261–265 (2019).
2. Hernandez, D. & Olson, P. Wall Street J. (5 July 2019); available at go.nature.com/2oxoqdw
3. Wakefield, J. BBC News (15 March 2019); available at go.nature.com/2kabi2p
4. O’Brien, S. A. CNN Business (28 February 2019); available at go.nature.com/31c2nny
5. BBC News (17 March 2018); available at go.nature.com/2h04gci
6. SELMA (23 April 2019); available at go.nature.com/2ygkhs1
7. Benner, K. & Spencer, H. New York Times (27 June 2019).
8. Mathew, B., Dutt, R., Goyal, P. & Mukherjee, A. Proc. 10th ACM Conf. Web Sci. 173–182 (2019).
9. Havlin, S., Kenett, D. Y., Bashan, A., Gao, J. & Stanley, H. E. Eur. Phys. J. Spec. Top. 223, 2087–2106 (2014).
10. Palla, G., Barabasi, A. L. & Vicsek, T. Nature 446, 664–667 (2007).
11. Jarrett, T. C., Ashton, D. J., Fricker, M. & Johnson, N. F. Phys. Rev. E 74, 026116 (2006).
12. Coaston, J. Vox (14 May 2019).
原文以Strategies for combating online hate为标题
发布在 2019年 8月 21日《自然》新闻与观点上
ⓝ
Nature|doi: 10.1038/d41586-019-02447-1
点击图片阅读热门文章
你死后，你在互联网上留下的痕迹将由谁来继承？
签证有多痛，科学家都懂
当你的研究领域是仇恨言论和假新闻在网络上的传播方式
版权声明：
本文由施普林格·自然上海办公室负责翻译。中文内容仅供参考，一切内容以英文原版为准。欢迎转发至朋友圈，如需转载，请邮件China@nature.com。未经授权的翻译是侵权行为，版权方将保留追究法律责任的权利。
© 2019 Springer Nature Limited. All Rights Reserved
喜欢今天的内容吗？喜欢就点个“在看”吧⇣⇣