全球虚假信息泛滥如何治理？这家公司提出协作解决方案

关注我们

带你读懂网络安全

美国创新公司Graphika提出了一套多利益相关方威胁中心模型，可协同检测线上的虚假信息活动。

前情回顾·虚假信息威胁形势

安全内参10月25日消息，虚假信息正在以惊人速度充斥在各大线上平台，导致科技企业、内容版主或研究人员根本无法阻止，这些有害帖子的传播与负面影响。

美国社交媒体分析公司Graphikia的CEO John Kelly在上周接受采访时表示，这个问题极为复杂且影响范围极广，需要社交媒体平台、政府官员和其他各利益相关方的共同努力才有可能解决。正因如此，Graphikia公司呼吁推动建立基于软件的利益相关者多方威胁中心，集合记者、政府官员、学者和其他专家的力量，共同推动对虚假信息的大规模追踪、共享和分析。由于资金尚未到位，这一虚拟的威胁中心还处于理论规划阶段。Graphika公司的管理层表示，他们已经与各类潜在合作伙伴讨论了相关概念。Graphika公司以出色的线上战略影响力识别技术而受到推崇，该公司称使用了人工智能（AI）来发现和分析在线社区信息，确定相应的协同处置行动。最近，该公司与Facebook等社交媒体平台合作，发现了一起持续近五年、以俄语为载体的亲美信息传播案例。Kelly说，他认识到建立更广泛的共享社区已经迫在眉睫，只有这样才能切实追踪虚假信息给整个社会带来的威胁。Graphika公司提出的威胁中心类似于用于监控和编辑信息等操作的一站式服务中心。Kelly特别强调，这种模式具有重要意义，因为以往各领域专家大多只能孤立存在于特定环节之内。到目前为止，Graphika的方法跟行业信息共享与分析中心（ISAC）大致相近，旨在为特定行业的利益相关者提供重要的威胁信息。Kelly解释道，“Graphika的目标不只是把每位参与者都训练成缩小版的Graphika。我们希望提供技术工具、数据交换通道等要素作为支撑架构，以供其他人加入进来开发出独特的专业知识……这将给各参与方带来价值。”独立虚假信息专家们也表示，Graphika设想的威胁中心，可能是解决这一日益严重现实问题的关键工具。美国国家民主基金会民主研究国际论坛副主任Kevin Sheives认为，“很明显，全世界都需要网络化和资源化程度更高的反虚假信息应对措施。”在他看来，民间社会领导者们“更了解所处的信息生态系统，也深知这种干预措施的重要意义”。在Sheives看来，Graphika方法能够改善社交媒体平台同民间社会研究人员/虚假信息专家之间的合作关系，以弥合“研究与实践”之间的断裂。“特别是对Facebook而言，必须为旗下两大社区提供必要的透明数据和合作关系，这样才能改善内容审核质量。”Graphika公司与社交媒体平台长期保持合作，以杜绝虚假信息。其他参与威胁中心创建和运行的各方也能利用其中的记录。Kelly认为，很多复杂的信息操作都发生在社交平台上，由于跟踪这些操作既昂贵又耗时，社交平台向来欢迎Graphika等专业团队的支持。今年8月，Graphika在与多家社交媒体平台和斯坦福大学的联合调查中，揭露了某亲西方国家的信息运营网络。近年来，该公司还陆续发现其他几起重大宣传行动，包括与俄罗斯政府有关、持续六年并跨越两个大洲的“二次感染”（Secondary Infektion）行动。Graphika的多利益相关方威胁中心模型，可协同检测线上的虚假信息活动Kelly表示，社交媒体公司很清楚，他们需要外部帮助来解决攻击者在社交平台上的协同性恶意欺诈问题。根据Kelly的工作经验，社交平台其实非常欢迎各方协助其跟踪并揭露这类操纵互联网舆论的协同行为。“还不止于此。我们提出的威胁中心还能发现更高级别的协同恶意行动……对其进行识别、验证、深挖细节，并将结论转化为信号，以供社交平台结合自身条件进行调查和处置。”许多社交媒体平台都没有追踪协同性虚假信息活动的预算。Kelly说，Facebook和谷歌的资金比较充足，而Telegram、Discord乃至Twitter用于解决虚假信息问题的资金则要少得多。Graphika公司首席技术专家Jennifer Mathieu在8月举办的DEF CON安全大会上介绍这套模型时提到，多利益相关方威胁中心能帮助民间社会的领导者们聚集在一起，调整研究目标、确定关注方向并实时分享信息操作案例。Graphika希望威胁中心与社交媒体平台建立合作，以获取比现有API方式更多的数据。Mathieu希望这种数据访问机制既符合用户服务条款，又会随着“在整个社区内建立信任”而愈发普及。该威胁中心只会搜寻威胁信号数据、已知/已归因的虚假信息行为的历史归档与操纵证据，并不会触及安全的用户数据。Kelly强调，后一部分数据将始终受到隐私条款的“正当保护”。为了近实时地观察威胁，该中心将采取自动化流程，辅以人类分析师的支持。作为项目规划的一部分，Graphika还希望把大中小型社交平台都纳入进来。Mathieu在DEF CON大会上表示，“多年以来，各利益相关方一直在讨论这种威胁中心的现实可能性。目前最大的挑战主要是资金预算。”

参考资料：cyberscoop.com

推荐阅读

---

点击下方卡片关注我们，

带你一起读懂网络安全 ↓