虚假信息爆炸时代，谣言真能止于智者吗？
译者：郑瑞华
编辑：张一苇、孙衍博
免责声明：本文内容仅代表原作者观点，不代表智堡的立场和观点。
本文由智堡编译，支持智堡请点击下方阅读原文下载智堡APP并订阅我们的。
我看不见它们，所以它们不是真的。
猜猜看这句话出自哪个世纪？可不是中世纪。上周日，福克斯电视台 Fox & Friends 节目嘉宾皮特·赫格塞斯 (Pete Hegseth) 发表了这番言论，而话中所指的“它们”，是细菌。这位本科从普林斯顿大学毕业、曾在阿富汗任反恐教官的成年人说，他有10年没洗手了，这让在场的其他嘉宾捧腹大笑。这则细菌一样的假信息 (misinformation)，自然在社交媒体上引发了病毒式传播。
猜猜看这句话出自哪个世纪？可不是中世纪。上周日，福克斯电视台 Fox & Friends 节目嘉宾皮特·赫格塞斯 (Pete Hegseth) 发表了这番言论，而话中所指的“它们”，是细菌。这位本科从普林斯顿大学毕业、曾在阿富汗任反恐教官的成年人说，他有10年没洗手了，这让在场的其他嘉宾捧腹大笑。这则细菌一样的假信息 (misinformation)，自然在社交媒体上引发了病毒式传播。
巧合的是，就在第二天《假信息时代：谬误观念是如何传播的》(The Misinformation Age: How False Beliefs Spread) 一书的作者 Cailin O'Conner 和 James Owen Weatherall，与Nautilus进行了面对面访谈。加州大学欧文分校 (UCI) 的这两位教授在他们的书中用数学模型阐述了信息如何传播，并探讨了辨别真伪的共识在社会中（尤其是在科学家的社交网络中）的成败关键。他们认为，“我们无法通过只关注个体来理解政治形势的变化。我们还需要了解我们的社会互动网络是如何变化的，以及这些变化缘何影响了我们作为一个群体形成可靠观念的能力。”
图源：Nautilus
已结为伉俪的O‘Connor和Weatherall，都擅于言简意赅地表达复杂的思想。我们从烟草业的伎俩花招，一路谈到社交媒体对劣质数据的暧昧纵容。我们讨论了科学是如何被巧妙地操纵的，以及公众应该如何理解相互矛盾的研究成果。这两位科学哲学家 (science philosopher) 对撰写科学报道的记者也提出了尖锐的建议。
你们怎么看一名评论员在电视节目上对着150万人说细菌不是真的？
O‘Connor
（笑)，我们不同意！
Weatherall：
我们是拒绝的。
O‘Connor
事实上，长久以来人们一直有些稀奇古怪的谬误观念。人们相信有动物和植物的杂交品种——这么想的人一般是自然主义者。人们相信各种各样关于人体的疯狂说法。如果你从社会角度来理解观念的形成，观念实际上是在个人与个人之间口口相传的，人们对彼此深信不疑，并且不能亲自进行验证，那么我们会有一些奇怪的观念也就不足为奇了。但在这个时代，我还不认识哪个人会说细菌是不存在的！
Weatherall：
这是我们正在谈论的话题的一个完美例子。假装细菌不存在会导致很多不好的后果。你会病得更重。你不会用正确的外科方法治疗患处。但这（细菌）也正是你无法真正自己去验证的一样失误。我们大多数人并不配备可以用来观察细菌的显微镜。气候变化也是如此。你可以任意鼓吹气候没有变化，或者人类活动与气候变化无关。当人的所作所为得不到任何直接反馈，特别是没有对人的生活中造成任何困扰的情况下，就很容易形成这些观念。
是什么促成了两位科学哲学家对假信息的研究？
O‘Connor
我从5岁就开始担心气候变化，而现在30年过去了，我们仍然没有对此采取任何行动。这绝对是疯了。很明显，思想市场 (marketplace of ideas) 失灵了。30多年来，我们任由大型石油和天然气企业施加政治影响。但是2016年大选让我们意识到再不采取行动就太迟了。在选举之后我们便着手写书。当时我们最直接的想法，就是得用自己的研究技能做些什么，来帮助解决这场围绕谬误观念的公共危机。
自古以来一直都有假信息。现在发生了什么变化?
O‘Connor
人类总是依赖社会关系来获取知识和观念。几百年来一直有假信息和诱导宣传。如果你是一个执政主体，自然会有想要保护的利益。你会寻求控制人们的观念。现在发生改变的，是社交媒体和人与人之间交流的结构。现在人们对自己的交流对象拥有无可比拟的选择权。假设你是一个反对强制接种疫苗者 (anti-vaxxers，反疫苗人士)。你会在网上找到志同道合的反疫苗人士，并与他们而不是与那些挑战你观念的人交谈。
另一件重要的事情是，这种新的结构意味着各种“网红” (influencers)——例如俄罗斯政府、各种行业团体以及其他国家政府部门的社交帐号——都可以直接接触到人民。他们可以用更私人的方式与人交流。他们可以在Twitter和Facebook上摆出一副你可能会想与之互动的普通人的样子。如果你看看2016年大选前的Facebook，俄罗斯互联网研究局 (Russian Internet Research Agency) 创建了大量有关动物保护、Black Lives Matter（BLM, “黑人命也是命”的黑人维权运动）、提倡枪支权利和反移民言论的群组。他们自然可以在这些群体成员中建立信任。一旦他们建立起这种信任，他们就可以通过呼吁抵制投票或推动观念两极化来影响他们，并诱导更为极端的言论。如果没有社交媒体，他们很难让别人信任他们。
Weatherall：
人们倾向于信任他们的朋友、家人，以及与他们有共同爱好的人。所以，如果信息看起来像是来自这些人，传播起来就会非常有效。制作易于分享的视觉媒体的能力也广为扩散。我们在Twitter或Facebook上看到的表情包其实毫无信息量，它们所唤起的是一种情绪，一种与你可能拥有的意识形态或观念有关的情绪。这是一种非常险恶的假信息，可以在不刻意传达某种谬误的同时，强化你的固有观念。
假信息是如何通过科学传播的?
Weatherall：
科学哲学家贝内特·霍尔曼 (Bennett Holman) 认为，行业和科学之间的关系实际上可以被看作是一场军备竞赛，在这场竞赛中，大家都争相建立一种新的认知标准。你想让药物获得批准吗？那就必须通过随机的临床试验。以前为了证明一种药物有效性和安全性所需的论据有更低的标准。但是，随着科学家和监管机构为应对可能的论据滥用而提出新的标准，那些想要影响公众观念或公共政策的团体，又想出更复杂的方法来规避这些问题。
一个行业运用复杂手段来操纵科学，有什么好的例子吗？
Weatherall：
在20世纪60年代，科学界的共识就已经很清楚，烟草制品和癌症之间存在联系。烟草业很快就意识到几点。第一，几乎可以肯定，他们自己的科学家也得到了同样的结果。第二，这对他们来说是灾难性的。第三，他们无法提出一个令人信服的基于论据的论点，证明烟草是安全的或有益的。但他们意识到他们不需要这么做。他们需要做的，不过是强调任何科学研究中都存在的不确定性。他们辩称，全面的论据还未出现，现在就采取行动是草率的。现在戒烟对个人来说还为时过早。现在让政府介入还为时过早。
O‘Connor
有一种天真的观点，认为烟草业给了科学家好处，然后科学家们就开始说烟草是安全的。事实上，烟草业掌握所有这些潜移默化的阴险方法，既不能说他们诈骗，也未违背科学规范。在烟草的研究案例中，他们挖掘出所有用烟草焦油涂过的老鼠没有得癌症的研究。有很多这样的研究是由独立科学家完成的。然后整个行业都会互相分享这些研究结果。这不能算是欺诈，也没有违反任何规范。但这仍是一种误导。
Weatherall：
烟草业还资助了对间皮瘤（常见于化妆品中的石棉引发的癌症）的优秀研究。他们这样做是因为他们想上法庭说，是的，这些人患有肺癌，但是除了香烟，还有其他环境因素可以解释这段时间肺癌的上升。
O‘Connor
班尼特·霍尔曼和贾斯汀·布鲁纳 (Justin Bruner) 就用心律不齐举了一个很好的例子。当人们第一次研究抗心律失常药物时，提出的问题是“这些药物会减少心脏病发作吗？”还有些科学家则问，“它们能缓解心律不齐吗？”大型制药公司为后者提供了资金。它向科学家们投入大量资金，询问这些药物是否能减少心律不齐。事实上，他们做到了。但它们也增加了心脏病的发作，并导致超过10万人因心脏病发作而过早死亡。所以，独立研究人员令历史重演了。只是他们中的一些人因此赚得盆满钵满，这也影响了论据的塑造。
Weatherall：
只要有经济上的动机让人们相信某事，你就会发现既得利益组织会尽其所能找出支持他们观点的论据。但他们可能并不认为自己是在做诱导宣传。他们可能只是和我们所有人一样，带着某种动机去构建特定的逻辑。他们只是在寻找恰好符合他们已有观念的论据。他们想要自己一直以来相信的事情成真。他们不想感觉自己是在做坏事。他们想要披露对自己最有利的信息。
O‘Connor
在某些情况下，他们的动机还要更恶劣些。
Weatherall：
在某些情况下，他们确实动机更不纯。我并不是说他们都本性善良。我只是想强调他们的操作手法可以是潜移默化的。
O‘Connor
我们从哲学的角度认识到，科学家也是人。当然科学家是容易犯错的，当然科学家也有自己的政治和社会观念。但这很正常。每个人都有自己的观念。问题是行业组织已经把对他们有利的正常因素武器化了。例如，杜邦公司的一位前经理，指责研究臭氧层空洞中的氟利昂制冷剂的科学家不客观，因为他们有政治动机。是的，他们有保护我们免受宇宙辐射的政治动机。这一点被用来指摘他们，但丝毫无损于他们正在收集的实际论据。
Weatherall：
另一个类似的被武器化的因素是，科学家们彼此意见不尽相同。他们应该各持己见。如果他们不互相批评，表达不同意见，我们就没有理由像现在这样相信科学的结果。但是，在看起来科学家们意见不一致的情况下，很容易就会有人说，应该让公众来评评理，或者论据不够清楚。经常发生的事情是，在科学文献和同行评审的科学期刊中，相关辩论已经得出了结论。但随后争论话题会被转移到报纸上，并通过专栏口诛笔伐。专栏文章可能是由一位持不同意见的科学家写的。但这种行为本身就是不正当的。这并不是平等看待论据并求同存异的真诚讨论态度。它反映的，是这个研究者没有办法以理服众，就转而试图说服那些不具备评估素养的人。
那么，公众应该对科学家在专栏文章中提出的观点持怀疑态度吗?
O‘Connor
不一定。在很多情况下，科学家与公众交流是一件好事。公众应该怀疑的，是那些似乎试图通过专栏为自己无法在期刊上正式发表的成果争辩的科学家（编者注：即“民科”）。对那些针对非专业领域发表评论的科学家，公众也应该持怀疑态度（编者注：联想钱学森）。
公众对科学的信任，因相互矛盾的研究结果而动摇。今天咖啡对你有好处，明天就对你有害了。公众应该如何知道哪些研究值得信任?
O‘Connor
如果你是一名消费者，你寻找的科学文章不应该只依赖单一论据，而是包含来自各种研究的大量数据。这对记者而言亦然。他们有巨大的动力去报道那些引人注目的新奇成果，因为这是你获得“赞”和点击的方式。但是评判科学报道记者的标准，不应该是发表了多少有关单个研究的热点文章。相反，当记者在撰写一个科学议题的时候，文中应该包括一系列优秀的研究，表明科学过去一段时间中所取得的进步。这将大大减少对科学的错误认知。
Weatherall：
我们应该说，发表令人惊讶或新奇研究的动机，也同样存在于科学家当中。他们可能对获得“赞”不太感兴趣，但这是科学家获得引用次数的方式。
O’Connor：
对，人们对新奇事物 (novelty) 抱有很大的偏见。当你看社交媒体时，人们会更多地分享假新闻，因为它新奇、刺激。他们分享的无法被复现的研究，比可复现的研究多得多，大概就是因为这些研究结果更令人惊讶。因此，抵制那些看似令人震惊、稀奇古怪或新奇的发现，或许可以防止你接受谬误的科学观念。
你们的书中写到，文化观念往往会塑造科学家研究的议题。有什么好例子吗?
O‘Connor
我教授一门关于性别价值观如何介入生物学的课程。在20世纪70年代，人们对更年期女性的荷尔蒙进行了研究，但在他们的研究中排除了任何在外工作的女性。当时的人们存在一种成见，即如果女性在外工作，荷尔蒙就会出现异常；她们一定是“女汉子” (man-women) 之类的存在。这些现在看来有点古怪的文化观念，在当时人眼中并没有什么不合理，并这样的观念影响着科学。
Weatherall：
事实上，有些情况下，文化观念会在很长一段时间内影响整个科学家群体。因此，考察这种变化是很有趣的。而且这些观念总是随着社会的变迁而变化，有时变化只是因为老一代人逝去，而年轻一代的科学家长掌管事务之后突然发现，“等等，我们为什么非得墨守成规？”他们职业生涯的开端，便是批评这些根深蒂固的成见，并证明这些成见是错误的。在其他情况下，是科学家群体的多样化令观念发生了变化。例如，如果我说得没错的话，现在有越来越多的女性参与到科研工作中来。
O‘Connor
很多情况下都是这样。在灵长类学中有一个著名的例子。如果你看看早期关于灵长类动物社会行为的科学研究，都主要集中在雄性灵长类动物的行为上，尤其是社会等级中的进攻性行为。当女性研究生开始进入这个领域时，他们关注的是雌性灵长类动物的行为。研究者群体的多样性，彻底改变了灵长类动物行为的研究领域。
科学家能做些什么来阻止他们的成果被用作诱导宣传?
O‘Connor
这真的很棘手，因为很多事情往往是他们无法掌控的。所以，一旦你给出某个研究结论，人们马上就可以随心所欲地利用它。但现在我们需要的，是一场大规模的变革：不能再让行业组织随心所欲地选择自己的资助对象。只要投资人能够控制自己的资助对象，即使他们不能腐化科学家，他们也能腐化科学。
对科学研究的资助应该采取何种方式?
O‘Connor
通过政府或某种不受行业组织影响的高标准的机构。
Weatherall：
我认为有必要对那些本来会为科学研究提供资金的行业征税。他们很清楚科学对他们产品的重要性。所以你可能会问，有没有一种方法可以把他们要花的钱转到一个第三方组织，由这个组织独立选择谁能获得资助。
最近一项关于维基百科的研究表明，最准确和高质量的文章是由一群意识形态各异的编辑和作家撰写的。这与你的发现相符吗?
Weatherall：
是的，这与科学应被理解为一套从多样性中获益的过程的观点是一致的。不过，这一发现还有另一面意义。在文化意义重大的思想市场中，我们认为无论你有什么观点，表达这些观点或观念都不应当构成道德问题。我们倾向于认为这是可行的，相信真相总是会胜出。但在现实中，真相并不总是胜出。如果有人垄断了信息流，干扰了信息的传播，这将会影响思想市场的效率。这就是“网红”、诱导宣传者和行业集团正在做的事情。思想不能很好地从一个团体传播到另一个团体。这样一来固步自封的圈子 (enclaves) 就形成了。这就是所谓的两极化——可靠观念从一个团体向另一个团体传播的失灵。
O‘Connor
因为思想市场不起作用，在投票的时候，我们常会感觉自己像是有能力改变既定事实 (a matter of fact) 一样。我们投票给不相信气候变化的人，然后装作气候变化不是真的。然而这一票不会改变气候变化真实与否，也不会改变我们是否要面对气候变化的后果。所以这里的问题是，什么是既定事实不应该通过公众投票来决定。它们应该通过收集论据，并运用我们手中的最佳工具处理这些论据，通过客观分析找出基于这些论据的真相。
获得优质信息的最佳工具是什么?
O‘Connor
也许我们应该设立一个信息部来决定什么是真实的。
Weatherall：
我曾与欧盟的政策制定者，就他们批判性地参与科学的能力进行过一次有趣的对话。他们是这么说的：听着，我们同意一定程度的批判性思维对于培养真实可靠的观念来说至关重要。不幸的是，我们被选出来是为了代表特定的群体和特定的利益，所以我们不能质疑某些成见，因为我们的选民不会质疑这些成见，所以也不是为了让我们质疑这些成见才投票给我们。如果我们质疑这些成见，我们就不是在履行作为民选代表的职责。
那不是推卸责任吗?
Weatherall：
是的，但让我们来看看现行的制度，看看它们衰败的样子。我认为，我们仍然可以拥有民主制度，拥有设计得更好、发展得更好的制度，作为对我们现行失败制度的回应。在美国的有些州已经采用直接投票作为公开表决和投票表决的形式。我们需要找到具有充分代表性的民主制度，能够对公民作出回应，而不只是简单地汇总大型团体的意见和观念。
民主制度如何才能避免汇集大型团体的观念?
O‘Connor
我们的建议是，让人们对他们看重的东西进行投票，不过具体该怎么操作很难说。比如说我重视公共安全。或者我看重环保主义。或者我珍视不受政府干预的自由。所以你是在为你喜爱的社会形态投票，而不是为决定既定事实投票。接下来你的政府应该贯彻你的价值观，以创造一个更好的社会，给你你想要的东西，但过程得通过最优质的论据和事实来达成这一点。
我们如何干预社交网络，引导人们走向真相和事实?
O‘Connor
所有的社交媒体网站都应该招募团队，来对抗活跃的假信息 (misinformation) 和造谣 (disinformation)。应该有这样的团队，不断适应来自俄罗斯或行业团体的任何新的假信息来源，并努力与之斗争。在个人层面上，这更棘手。人们只是很难取信于与自己观念不同的人。但从更广泛的角度来看，有些做法可能会有成效。对疫苗持怀疑态度的人，一样可以找到与他们在其他方面有相同观念和认同感的人。这人会说，听着，我理解你为什么对疫苗感到害怕，或者为什么你对它们持怀疑态度。以下是我和你的共通之处，我也曾经和你一样心存疑虑。但即便怀有这样的不信任，我还是因为以下原因改变了主意，而你也一样可以做到。
系统性变革真的能推翻谬误观念吗?
O‘Connor
当然，我们总是会有一些谬误观念，因为我们是社会学习者。谬误观念很容易在人与人之间传播。但这并不意味着我们总是会有同样程度的谬误观念。在文化演变的历程中，我们创造出很多套文化系统，用我们的大脑帮助我们做得更好。我们开发了惊人的学习系统，帮助孩子们比过去更加高效地学习。我们还可以开发出一套系统，让我们能用自己的大脑做到最好。我们并不应该就此放弃，并非全无希望。例如，如果我们对人们可以发布什么样的新闻有某种规定，我们就可以保护自己不受假信息的影响。
Weatherall：
我们有能力学习哪些事情值得信任，哪些事情是可靠的。我们必须希望自己在应对网上传播的假信息方面能够变得更成功、更有效或更成熟。我认为有论据表明这种过程正在发生。老年人比年轻人更常分享假新闻。老年人故意分享假信息的频率要高得多。对此有很多可能的解释。一个是媒体的复杂性。年轻人对媒体更加熟悉，他们更善于驾驭媒体。
O‘Connor
年轻人更擅于识别假新闻，他们能站在不同的角度看一些信息，然后说，哦这可能不是真的，也就不太可能进一步分享与传播。
题图：Association for Psychological Science
来源：Gallagher, Brian, Berger, Kevin, Why Misinformation Is About Who You Trust, Not What You Think, Nautilus - Culture, Feb. 14th 2019
往期精选
▼▼▼
本文来自，长按二维码关注
如果觉得文章还不错，请点击“好看”
路演请联系邮箱mikkozhu@wisburg.com
智堡|Wisburg