【人工智能】疫情中的虚假信息治理

刊物介绍

《人工智能资讯周报》探讨人工智能对公共政策、治理和政策建议的影响，探索人工智能对商业、政治和社会的影响，以确定潜在的研究领域，探讨可能的合作研究和机构伙伴关系。本刊着重提供中国人工智能发展动态和对人工智能的思考，同时关注全球范围内人工智能相关研究动态。本刊旨在通过可靠的研究，来帮助企业、研究机构和公民预测和适应技术引领的变化。

（欲获取本刊，请点击阅读原文）

本文作者：郭雷

点击蓝字

关注我们

摘要

在Facebook, Twitter, YouTube等社交媒体上频频传播的新冠疫情虚假信息在2020年造成了疫情防治上的困难。与新冠有关的虚假信息到底如何通过社交媒体扩散？社交媒体平台又该如何在疫情期间对虚假信息进行治理？

图源：BBC

从2020年四月中旬开始，欧美接连发生反口罩、反隔离、反疫苗游行。从西班牙马德里到美国亚利桑那州，游行造成了的从百人到千人公共聚集极大程度加大了防疫困难。游行中民众展现的对于如口罩、疫苗等科学抗疫手段的抵触，很大程度上是被社交媒体平台关于疫情的虚假信息所驱动的。事实上，在相信新冠其实就是普通流感的人群中，有56%的人群表明Facebook等社交媒体是他们的信息源。因疫情而发展并传播的虚假信息，确实阻碍了对于新冠疫情的防治。

一、为何疫情下虚假信息如此迅速而广泛传播？

一项调查表明现在欧美社交媒体平台上传播最广的虚假信息有四种：

• 新冠的传播与5G网络的发展有关系，是因中国科技企业在各地发展5G基建而传播的；

• 新冠病毒是一种细菌武器；

• 新冠对人的危害度其实不大，它只是一种轻度流感；

• 新冠的传播与比尔·盖茨有关，他想通过疫情在世界上建立对于普通民众的监视网络。

虚假信息之所以能在疫情下在欧美社会广泛传播，首先应归因于社交媒体平台自带的一些有利于虚假信息扩散的特性。在当今社交媒体的信息传播中网页链接（URLs）被广泛应用。链接的易传播性可以帮助信息快速扩散，甚至将使用主流社交媒体平台的人吸引到信息源头发布的非主流平台，并且在不同平台间创造虚假信息扩散的网络。乔治华盛顿大学的物理学家尼尔·约翰逊（Neil Johnson）就针对“犹太人和移民是传播新冠的源头”这一虚假信息的来源与传播进行了推演。他发现在这个信息在4Chan这个不算主流的平台刚发布的前19周，这个信息的传播都只是停留在4Chan中。但等到信息发布的23周之时，这个信息却通过网页链接的形式传播到了Telegram, Gab甚至是Facebook这种主流平台，并在这些平台之间架起了互相传播的网络。此外，由于网页链接中的内容不易被审查，链接中所附带的错误信息很难被发现及删除。平台方当今依赖人工智能演算法推荐热门信息的做法也在无意中帮助推广了带有“新冠”关键字的虚假信息。

其次，欧美社会对政府的不信任，对于自由主义的推崇以及部分群众及政客对于中国的害怕甚至是敌视也帮助虚假信息在社交媒体平台上的扩散。美国疾控中心在疫情前期提倡不需要戴口罩，而在之后又马上改口要求市民佩戴口罩的行为混淆了民众视听。后期政府颁布的居家命令也使得不信任政府的民众怀疑政府想要以新冠为由限制他们的自由。世界卫生组织（WTO）赞扬中国抗疫事迹的行为使得许多带有反华情绪的民众开始失去对它的信任，这个事件甚至被一些反华政客利用成为推进民族主义的政治工具。新冠这个公共卫生事件由此在欧美被政治化，政客与民众对疫情防治的意见变得和政治立场挂钩，进一步促成了带有偏见性的虚假信息的传播。

二、平台对于虚假信息的治理

Twitter在5月时采用的治理方式时直接隐去有关疫情的虚假信息原文，并且添加原文带有有关新冠的虚假信息的警告标志。平台使用者只有在阅读完警告标志后才能点击查看信息原文。同时在虚假信息的原文下Twitter还会携带与疫情有关的官方信息链接。而为了防止不当审查，Twitter对于虚假信息进行了分级，对于不同级别的虚假信息提出了不同的治理方式。Twitter表示针对涉嫌造谣误导群众的错误信息，平台将进行对信息进行移除；针对有争议的信息，平台将添加警告标示；而对还未被核实真假的信息平台则先不做处理。

（此图为Twitter的虚假信息警告标识，图源：Twitter）

（此图为虚假信息的原文下会携带的疫情官方信息链接，图源：Twitter）

而Facebook也采用了标示虚假信息的方式来管控虚假信息。据Facebook的发言人表示，Facebook在2020年3月到4月间标记了九千万条平台上与疫情相关的虚假信息。YouTube则是会删除传播虚假信息的视频甚至其发布频道，并且在删除声明中明确表示删除是和传播疫情虚假信息有关。

不过Twitter、Facebook与YouTube三大平台对于虚假信息的处理方案多是偏向于事后对于不良信息的阻断，多是在信息发布后平台方会开展对虚假信息的筛查、标示、删除及辟谣。而美国进步中心（Center for American Progress）提议平台应该对虚假信息采取事前阻断，建议平台方在用户编辑社交媒体文案还未发布信息之时时直接在用户端监测可能传播虚假信息的关键字并为用户提供修改建议。

此外，Twitter在最初刚刚开始标识有关新冠的虚假信息时，因为系统错误，将所以与新冠有关的信息都错误标记成了虚假信息，反而造成了民众对于疫情的更多困惑。所以平台在治理虚假信息时，还需要防止过度审查，并且秉承向用户公开治理条例与保护用户隐私的原则。

结语

数字时代的发展极大减少了信息传播及获取的成本。但世界也因此进入了“后真相时代”（the Post-Truth Era），因为真实与虚假信息大量地在社交媒体上并行传播，真相被民众的情绪与偏见所掩盖。极端的观点被网络用户错当成事实大量摄入，甚至促成了现今部分民众反对科学抗议的浪潮。此次在欧美爆发且扩散的虚假信息尚且是得到了社交媒体平台的管控，可是依赖平台方来抗击虚假信息终归是治标不治本。社交媒体平台无法扭转“真相衰退”（Truth Decay）。所以政府应该认真考虑自身在治理虚假信息上的角色，以防由下一场“疫情”再次引起的虚假信息传播会对社会造成更大的伤害。

参考文献

[1] BBC News: Coronavirus: Social Media “Spreading Virus Conspiracy Theories”

https://www.bbc.com/news/uk-53085640

[2] Shahsavari, S., Holur, P., Tangherlini, T. R., & Roychowdhury, V. (2020). 

Conspiracy in the time of corona: Automatic detection of covid-19 

conspiracy theories in social media and  the news.  Retrieved from 

https://arxiv.org/abs/2004.13783

[3] Nature: The Epic Battle Against Coronavirus Misinformation and Conspiracy Theories 

https://www.nature.com/articles/d41586-020-01452-z

[4] Journal of Computational Social Science: Misinformation, Manipulation, and Abuse on Social Media in the era of COVID-19

https://link.springer.com/article/10.1007/s42001-020-00094-5

[5] The Washington Post: Conspiracy Theory Run Rampant When People Feel Helpless

https://www.washingtonpost.com/outlook/2020/05/05/coronavirus-conspiracy-theories-pandemic/

[6] The Verge: Twitter Introducing New Labels for Tweets with Misleading COVID-19 Information

https://www.theverge.com/2020/5/11/21254733/twitter-covid-19-misleading-information-label-warnings-misinformation

[7] Reuters: YouTube Bans Coronavirus Vaccine Misinformation 

https://mobile.reuters.com/article/amp/idUSKBN26Z21R

[8] Center for American Progress: Fighting Coronavirus Misinformation and Disinformation

https://www.americanprogress.org/issues/technology-policy/reports/2020/08/18/488714/fighting-coronavirus-misinformation-disinformation/

文章推送方式：

微信：关注“海国图智研究院”公众号

网站：收藏我们的网站 www.intellisia.org

邮件：扫描下方二维码登记邮箱信息，每日接收新鲜、深度的时政洞察

往期回顾：

海国图智研究院（Intellisia Institute）是中国第一批独立的新型社会智库之一。海国图智专注于国际问题研究，并主要聚焦中美关系、中国外交、风险预测、新科技与国际关系等议题，致力于通过书目与报告的出版、学术与社会活动的组织、研究项目的承接和开展等形式为政府、企业、媒体、学界、社会公众提供知识资源，以帮助其更好地“开眼看世界”，了解中国与世界的关系，为其对外事务提供战略见解和政策解决方案。