世界经济论坛：如何有效衡量数字安全以降低在线风险
点击蓝字 关注我们
报告信息
如何有效衡量数字安全以降低在线风险
报告来源：世界经济论坛
发布时间：2024年6月
内容简介✦
1
衡量数字安全的背景和挑战
现状
数字安全的衡量标准在不断发展，受到技术进步和监管干预的影响。技术进步促成了复杂算法的开发，这些算法能够检测和减轻各种形式的网络伤害，然而这种进步也带来了挑战：恶意行为者不断调整策略以逃避检测，并将新技术武器化以造成伤害，例如使用生成式人工智能，这强调了网络安全措施需要不断创新。
各个领域的利益相关者长期以来一直要求披露与数字安全相关的指标，特别是有关平台透明度报告。透明度报告在监管要求出台之前原本是一种自愿做法，目前正在成为提高数字安全意识的基石。主要平台已发布各种指标以作出回应，通常重点关注内部审核流程的有效性以及对外部用户数据请求的遵守情况。
衡量数字安全的挑战
尽管做出了这些努力，但理解和衡量数字安全仍然很复杂。这是由多种因素造成的，包括技术进步的动态性质、数字产品和服务的多样性以及有害行为的同步演变。数字内容的庞大数量以及某些类型伤害的背景或主观性质使情况更加复杂。文化和语言等背景因素无疑很重要，但它们很难以标准化或可复制的方式捕捉。
指标需要让各利益相关者（包括用户、政策制定者和投资者）能够获取和理解，同时又需要包含必要的背景信息，这两者之间存在着微妙的平衡。即使报告的指标一致，仍然存在显著差异。
几个限制因素加剧了这些挑战，包括：对共享专有信息或个人身份数据的限制；测量现象和跟踪指标的资源影响；以及逆向工程或破坏旨在提高用户安全性的内部系统和流程的风险。报告外部对用户数据的请求（如法律要求和合规率）也可能受到禁言令或保密要求的限制。
当制定和实施指标来评估干预措施的有效性时，必须对其进行长期监控，以确保其始终符合目的。这些挑战凸显了衡量数字安全需要采取全面细致的方法，以解决不断变化的网络环境的复杂性。
2
衡量数字安全
认识到衡量数字安全的复杂性，本文建议将指标分为三类：
影响：指标侧重于将主观用户体验转化为与内容或行为相关的可量化和客观数据，揭示数字领域内用户的危害或好处。此类别还可能涵盖干预措施的意外影响——例如，用户在线行为或表达方式的变化。衡量影响的全面方法需要多种数据来源，包括特定于平台的数据和来自外部利益相关者（如研究人员和民间社会成员）的见解。
风险：识别增加用户在数字平台上遭遇有害结果可能性的因素所必需的指标。这些指标旨在通过衡量增加用户伤害风险的服务功能来改善数字安全方面的预测和预防工作。这包括从各种服务特定特征中得出的指标，例如用户人口统计和推动用户互动和内容分发的激励结构。
流程：用于评估为减轻数字危害和促进积极成果而实施的操作系统和流程的有效性指标。这些指标提供了整体干预成功率的指标。它们评估相关系统和流程整个生命周期的运营成果，强调从设计和治理到执行和审查都需要透明的文档记录。
如何获取报告？
关注本公众号：图灵财经
来源：世界经济论坛
编辑：田章功
精彩推荐
欧盟理事会最终通过《人工智能法》，全球首部人工智能法案即将生效
图灵奖得主《Science》发文：人工智能飞速进步时代的风险管理
欧盟发布《科研领域负责任使用生成式人工智能指南》
联合国通过首个关于人工智能的全球决议
更多精彩内容