【作者简介】罗有成，西南政法大学网络空间治理研究院助理研究员，博士研究生。
【基金项目】国家社会科学基金重大项目“全面提升社会治理法治化水平研究”（23ZDA080）阶段成果。
【摘要】算法安全是指个体、社会与国家的核心利益在算法技术嵌入过程中相对处于没有危险、不受内外威胁的状态，其实质是防范与化解人机关系新格局下的安全风险，进而构建相应的治理规范。算法安全的理论内涵体现为算法系统自身安全可控、算法社会应用安全可信与国家主权不受算法损害三个层次。当前，在我国算法安全治理实践中，复合型规范制度体系已初步建立，并呈现保障数据源头安全、算法安全多元共治、算法监管多维一体、算法安全与发展兼顾的特征，但亦存在算法嵌入后各安全治理场域、治理要素衔接不畅的问题。未来算法安全治理结构的优化完善，需在技术自身维度推进算法的安全可信控制，在社会应用维度强化算法掌控者的安全保障义务，在国家战略维度统筹算法防御与算法竞争。由此在算法安全核心内涵基础上构建系统的、适应算法技术发展的治理结构体系。
【关键词】算法安全；国家安全；算法规制；治理结构
随着以算法为核心的新一代科技革命不断迈向纵深，传统意义上的安全格局与安全形势变得更为严峻复杂。算法虽然只是人为编制的解决问题的数学程式，但随着它嵌入社会广度和深度的不断提升，已经成为一整套数字社会知识生产和建构体系的关键变量。一方面，在政治安全、经济安全和军事安全这三个传统宏观安全领域中，算法实际上扮演着系统性扰动要素的角色，既赋能传统安全领域、提升安全保障能力，又对社会稳定和国家安全造成严峻挑战。另一方面，算法具有无与伦比的治理能力，当它们决定了日常生活的架构时，可以悄无声息地对整个安全体系内的诸多环节都造成多层次影响。这种“大数据主义”与社会、国家的强连接状态使得算法具备了非常清晰的国家安全属性，在既有国家安全体系内产生了重要的溢出效应。算法时代的安全，不得不从传统安全思维惯性中跳脱出来，把政治安全、经济安全、军事安全、公共安全等领域全部打通，让算法成为贯通这些安全领域及其治理体系的重要纽带。算法安全所要解决的是算法融合、更新国家安全与公共安全等重大传统安全中过于突出的安全风险问题。其中，算法技术本身的安全只是表象，深层次的问题是算法嵌入个体、社会与国家关系过程中所带来的新型安全风险。与粮食、资源、金融、生物、核、海洋等具体领域的安全不同，算法安全的特殊性在于算法如今已构成了所有社会领域的基础。可以说，算法安全不仅仅是涉及社会安全与国家安全，它本身就是社会安全与国家安全。算法深度嵌入社会结构以后，它开始展现出极强的智能性与自主性，这在相当程度上改变了安全场域中人与机器的关系，以及主权国家间的权力结构对比。因此，算法时代需阐明人、机、物之间的交互关系，识别三者之间互动关系中存在的各种安全风险，进而构建相应的治理规范。目前学界已经开始关注到算法安全问题的特殊性，并主要围绕以下研究路径展开：一是算法安全的认识论路径。其核心在于根据传统安全来拓展算法安全的含义，界定算法安全的内涵与谱系。有学者基于“网络主权”视角，提出算法安全是国家主权安全的延伸；也有学者认为算法安全涵盖“安全-控制-利用”三个层次，并分别阐述了这三个层次的内涵及其治理逻辑。二是算法安全的治理论路径。其核心在于通过不同维度的治理结构的建构来实现算法安全。有学者从我国数据与算法治理规则体系的现状出发，提出数据与算法安全的协同治理框架；有学者在总体国家安全观视域下提出强化算法安全秩序的具体举措；有学者则专门关注了自动驾驶汽车的算法安全规制问题。三是算法安全的方法论路径。其意在为安全问题提供一种新的视角，重点关注算法赋能国家安全的方式方法，以及算法与国家安全之间存在的结构性互动关系。然而，这些研究在相当程度上仍停留在传统安全思维上审视算法安全及其风险治理，尚未真正意识到算法对既有安全治理体系的“溢出效应”和“扰动角色”，更没有在此基础上进一步建构清晰完整的算法安全理论谱系。事实上，在不同安全场域的研究语境中，算法安全已经表现出截然不同的形态与特征，可以说，算法贯通了安全治理的实践场域、治理工具和分析方法。因此，如果要形成更具共识性的算法安全问题域，就需突破现有研究的思维定性，依托系统的分析框架，重新阐明算法安全的理论内涵与实践逻辑。有鉴于此，本文首先尝试为算法安全建构一个三维的理论内涵体系，然后在此基础上系统分析我国算法安全治理的运行实践，最后寻求算法技术要素纳入安全治理结构体系的有效路径，以回答“如何在新技术革命条件下重新理解以及优化安全”的问题。算法安全旨在阐明算法与社会、国家之间的交互关系，防范与化解三者互动关系中存在的各种安全风险。对算法安全的全面理解不能仅停留在技术安全层面上，还需要一个更全面的理论视角。因此，本文从算法系统自身安全、算法社会应用安全、算法国家主权安全三个层面来界定算法安全的基本内涵，拟勾画出一个由微观技术场景、中观社会场域、宏观国家主权背景构成的算法安全内涵的三维结构。从微观的技术层面讲，算法系统及数据来源的安全可控是算法安全的基本保障。算法从根本上还是遵从人所赋予的智能形态，而这种赋予方式来自学习，因此学习的正确性来源于输入数据的正确性以及数据训练与推断阶段的可靠性。然而，在数据来源方面，经常会出现数据丢失、变形和输入噪声数据的情形；在数据训练与推断阶段，算法可能遭遇数据投毒、标签操纵、样本对抗、特洛伊攻击等多种形式的安全挑战。而且，算法系统自身也存在脆弱性，包括设计缺陷、系统不稳定、可解释性不强、模型被窃取或污染等。因此，算法安全首先指向技术层面的安全，要求算法本身免受攻击，且具备维持系统及数据来源安全可靠的能力，这是算法安全最原始的含义。算法自身的安全可控也是域外立法关注的重点。例如，欧盟发布的《可信赖人工智能伦理指南（草案）》《算法责任与透明治理框架》均强调算法的“稳健性和安全性”这一要求，其中也包括对未知情况的鲁棒性、自我反省性、自适应性和公平性。此外，英国信息专员办公室（ICO）发布的《关于AI审核框架的指南》围绕算法部署方式、风险管理能力、安全防护和可解释性等方面的安全需求，提出重点审查代码及其架构算法的价值目标来确保算法安全可控。从中观的社会应用层面讲，算法应用的安全可信是算法安全的内在要求。人们在体验算法所带来的技术红利的同时，也不得不面对诸如算法歧视、算法黑箱、算法合谋、算法霸权等社会安全风险。而且，更多的失控性风险、侵权性风险、歧视性风险与责任性风险在算法赋能下呈现联动的趋势，进而对现有的社会治理结构形成更大、更持久的挑战。算法应用安全问题是科技发展过程中利益冲突的产物，是强势技术巨头对落后个体单边操纵及由此产生的危害后果，因此要从社会结构因素及算法应用的相互构建角度来理解算法安全问题。算法应用所引发的安全挑战首先是社会极化风险。如今，网络科技巨头凭借手中掌握的大数据和算法攫取了社会的大量财富，但并没有为社会带来平等和秩序，反而使得剩下的群体依附他们，弱势群体陷入更加边缘化的境地，甚至还可能诱发断崖性等差的社会风险。算法对安全的另一个挑战是算法权力的不正当应用。新技术革命正催生出以算法掌控者为代表的“超级权力体”，开始同党团、政府等传统政治主体竞争权力。然而，掌握算法权力的私主体一旦过度追求商业利益，再加上相应法律程序的缺位，算法完全可能会沦为知识的黑洞与权力的暗箱。也就是说，算法时代之所以频繁诱发安全风险问题，正是由于算法权力“异化”而引发的相关社会关系错位，使得算法应用的公共性价值弱化。因此，针对算法权力裹挟下出现的“算法垄断”现象，需要国家合理规制算法掌控者的算法权力，确保算法嵌入社会结构过程中的实质公平，真正让算法应用保持安全可信的状态。从宏观的国家主权层面讲，国家利益不受外部算法损害以及提高算法核心竞争力是算法安全的根本依据。进入算法时代，许多涉及国家安全的活动被广泛地纳入到算法主导的场域中，战略博弈对手也可能利用算法来助力攻击或操纵他国国内的社会舆论。在国家算法安全能力不足的情况下，算法在政治领域的广泛应用以及外部技术的介入，往往会大幅度增加政治体系的系统性风险。就此而论，算法安全问题不同于传统安全问题，它已演变为国家安全中具有颠覆性作用的变量。首先，算法安全是被动的算法防御。例如，需防范算法安全漏洞被攻击者利用，对涉及国计民生或军事领域的核心数据进行篡改以及诱导算法做出错误决策。由此，算法安全首先意味着国家核心利益不受外部算法损害，持续保持安全状态的能力。其次，算法技术对现有国际战略竞争平衡产生了一定的冲击，进一步拉大了算法超级大国与算法新兴国家之间维护国家主权能力的代差。正是基于这样的考量，算法安全在被动防御算法攻击维度之外，又增加了主动开展算法竞争的内涵。自2016年以来，美国先后发布了《为人工智能的未来做好准备》《国家人工智能研究与发展战略规划》《人工智能与国家安全》等多部白皮书，将算法置于科技竞争的战略核心，甚至还提出了“算法战”概念、成立了“算法战跨部门小组”。在此背景下，维护算法安全势必需要算法新兴国家提高其算法的核心竞争力，在国家间通过数据与算法优势进行安全博弈和利益争斗。综上，算法安全是指个体、社会和国家的核心利益在算法嵌入过程中相对处于一种没有危险、不受内外威胁的状态，其具体可在微观的技术层面、中观的社会应用层面、宏观的国家主权层面有序展开为三层内涵。其中，微观的技术层面对应的是物理层的算法系统及数据安全；中观的社会应用层面对应的是应用层的算法部署、应用安全；宏观的国家主权层面对应的是虚拟层的国家主权安全。这三种安全需求跨越个体、社会与国家维度，涵盖算法设计、开发、部署和应用全流程，共同构成了一种总体安全的需求。相应地，算法安全治理也主要围绕这三层安全内涵与需求来进行建构。上文大致建构了算法安全的三维理论内涵体系，下文将围绕我国算法安全的治理实践展开具体分析，试图呈现更加科学全面的算法安全治理依据。当前在我国数字安全战略实施过程中，复合型规范制度体系已初步建立，同时，我国以算法安全综合治理为目标的规范制度体系及其实践，在保障数据源头安全、算法安全多元共治、监管体系多维一体、算法安全与发展兼顾中取得了显著成效。虽然我国出台了《数据安全法》，但目前尚未专门针对算法安全制定《算法安全法》。算法安全的相关规定和制度设计散见于政策性文件、不同层次的法律规范、技术标准和自治规范之中，具有一定的复杂性。总体来看，可根据地位、功能与规范内容的不同，将其划分为基础规范、专门规范与自治规范三个层次，它们共同构成了保障我国算法安全实现的规范体系。《国家安全法》《密码法》《网络安全法》《数据安全法》《个人信息保护法》这五部法律架构起了我国算法安全规范体系的“四梁八柱”。《国家安全法》和《密码法》提出算法系统及要素安全可控的目标，要求实现关键基础设施、重要领域信息系统与数据的安全可控。《网络安全法》为算法安全提供了采取监测、防御、处置等措施应对外部算法风险的实践方向。《数据安全法》专章规定了数据分类、重要数据识别、重要数据流通、数据泄漏通知等制度设计以及开展数据处理活动的义务，初步搭建起我国数据安全与算法安全协同治理规范框架。《个人信息保护法》与《网络安全法》《数据安全法》保持贯通并相互支援。其基于“信息利用与安全平衡”“攻守兼备的数据主权”的原则，特别规定了敏感个人信息的处理规则、个人信息处理者义务以及个人信息跨境安全规则，为国内安全可控、国际安全有序的算法新秩序奠定了基础。此外，《促进新一代人工智能产业发展三年行动计划（2018-2020年）》与《新一代人工智能治理原则》突出发展“负责任的人工智能”这一主题，强调算法安全可控的规范目标。专门规范直接且明确指向算法安全，重点解决算法带来的内生安全问题和衍生安全问题。2021年，国家互联网信息办公室等部门联合发布了首次直接以“算法”命名的《关于加强互联网信息服务算法综合治理的指导意见》（以下简称《算法治理指导意见》）与《互联网信息服务算法推荐管理规定》（以下简称《算法推荐管理规定》）。《算法治理指导意见》从宏观上明确了“建立健全算法安全治理机制，构建完善算法安全监管体系，推进算法自主创新”的目标。《算法推荐管理规定》专门规定了算法安全主体责任、增强可解释性、用户权益保护、算法分级分类安全管理制度、算法评估与备案制度等制度机制。针对算法在社会应用的安全可信性，《电子商务法》首次明确了网络交易平台因不当应用算法所应承担的法律责任。《个人信息保护法》为平台自动化决策的应用划定了合法边界。《互联网信息服务深度合成管理规定》则明确了深度合成数据和技术管理规范，要求定期审核、评估、验证算法机制机理。为进一步细化算法安全保障的基本原则与主要制度机制，我国信息安全标准化技术委员会、互联网协会及平台企业等行业组织制定了一系列技术标准、行业标准与自律公约。比较具有代表性的是：《人工智能伦理安全风险防范指引》《人工智能深度学习算法评估规范》《个人信息跨境处理活动安全认证规范》《信息安全技术 个人信息安全规范》《国家新一代人工智能标准体系建设指南》《数据安全治理实践指南》。这些自治规范具有专业性、技术性和科学性的特点，为算法安全相关法律法规的执行提供了充分的技术依据与实践参考。此外，京东、腾讯、百度、抖音、阿里等头部平台企业也发布了一系列行业标准与自律公约，积极参与算法安全治理。例如，2021年7月，中国信息通信研究院和京东探索研究院共同发布的《可信人工智能白皮书》，对支撑算法系统稳定性、可解释性、公平性的技术要求，以及提高我国算法核心竞争力的实践路径做了初步探索。数据安全是算法安全的基础。如果数据不安全，算法系统就会存在数据集质量、数据投毒、对抗样本等安全问题，并经由算法运行诱发系统性安全风险。国务院印发的《促进大数据发展行动纲要》明确提出“健全大数据安全保障体系”。《数据安全法》则构筑了重要制度、保护义务、流程管理三位一体的数据安全治理框架，涵盖数据收集、存储、使用、加工、传输、提供、公开七大板块的安全战略规划，从而确保我国数据的主权、安全和发展利益最大化。《关于构建数据基础制度更好发挥数据要素作用的意见》（又称《数据二十条》）提出建立安全可控、弹性包容的数据要素治理制度，确保数据流通过程可追溯、数据交易规范有序以及数据安全风险可防范。《数据出境安全评估办法》《个人信息出境标准合同规定（征求意见稿）》借助数据出境差异化风险的标准合同、专业认证等制度工具，与《数据安全法》的主要制度机制相衔接，提供了兼顾数据安全和数据利用的数据传输制度方案。鉴于算法具有技术复杂、强大赋能的特点，以及在用户画像、决策支持、行动干预等不同维度上可能带来的安全风险，算法安全治理需要多方主体参与、多元工具协同的治理结构。为此，《算法治理指导意见》提出“打造形成政府监管、企业履责、行业自律、社会监督的算法安全多元共治局面”。在政府政策倡导与科学监管的治理框架下，《算法推荐管理规定》进一步建构了公众监督、互动监管、敏捷治理等具体治理路径，并赋予了企业 “建立完善人工干预”义务。《网络信息内容生态治理规定》《互联网信息服务深度合成管理规定》体现出从算法安全评估到风险识别再到损害应对各流程的多元治理机制。《个人信息保护法》也展现出多元工具、多元要素协同共治、交互作用的制度需求。《算法治理指导意见》提出构建算法安全风险监测、算法安全评估、科技伦理审查、算法备案管理和算法违法处置等多维一体的算法监管体系。在算法安全风险监测上，《算法推荐管理规定》规定了与数据分级分类相衔接的算法分级分类管理制度。在算法安全评估上，全国信息安全标准化技术委员会专门制定了《机器学习算法安全评估规范》，《数据出境安全评估办法》构建了事前评估、风险自评估与安全评估相结合的数据安全评估体系。在科技伦理审查上，《新一代人工智能伦理规范》针对算法管理、研发、供应、使用等相关活动分别提出了具体的伦理要求。在算法备案管理上，互联网信息服务算法备案系统于2022年3月正式运行，算法备案制度走向实操阶段。在算法违法处置上，《数据安全法》《个人信息保护法》中规定的行政约谈制度，以及中央网络安全和信息化委员会办公室启动的2022年“清朗·算法综合治理”专项行动体现出更加具有针对性的特殊监管措施。遵循发展和安全的辩证法、促进激励发展与合理规制相协调，一直以来都是我国数字安全治理的重要原则。《数据安全法》明确体现出维护国家主权、安全利益与促进技术创新发展的双重目标。在算法治理方面，《新一代人工智能治理原则》提出“促进包容发展”，《优化营商环境条例》第55条专门针对新技术、新业态提出“包容审慎监管”，《算法治理指导意见》强调“鼓励算法创新发展”。正在起草的《生成式人工智能服务管理暂行办法》也提出坚持发展和安全并重、促进创新和依法治理相结合的原则。我国保障算法安全的规范体系及其治理实践表明，以保障数据源头安全、算法安全多元共治、算法监管多维一体、算法安全与发展兼顾为实践基点的整个算法安全治理制度体系已相对稳定。客观来讲，我国保障算法安全的相关战略安排、制度设计及具体监管机制基本顺应了全球算法发展的趋势，具有一定的科学性和前瞻性。实践中，正是以总体国家安全观全面嵌入算法安全治理为基础，加之得益于多元安全治理机制的有效应用，我国算法安全治理朝着更加均衡的多元治理格局方向发展。与此同时，我国以推动算法“安全、可靠、可控”发展为目标的算法合规体系建设也在同步推进，初步确立了合规体系建设规划和路线图，预防算法诱发系统性安全的能力得以稳步提升。可以预见，随着《数据安全法》《个人信息保护法》的相继出台，以及中共中央、国务院印发《党和国家机构改革方案》正式决定组建国家数据局，全局性推进大数据和算法制度体系建设，一个各具特色、合理分工、相互支撑、有机耦合的算法安全治理体系即将形成。当然，我国虽然具备了保障算法安全的相对完整的规范体系，开展了丰富的治理实践，取得了明显的成就，但面对算法安全问题的特殊性，以及在世界各国通过制度手段抢占算法技术高地的大背景下，还需要在算法安全治理的系统化实施方面予以优化完善。目前，保障算法安全实现的治理依据相对比较零散，系统性明显不足，且没有专门、统一的立法，这种状态导致了无法以一以贯之的价值理念来实现治理规范的整合。正因如此，有学者提出，应在数据安全立法、个人信息保护立法之后，通过算法安全专项立法的方式，统筹算法安全治理的相关主体范围、安全风险的具体类型与治理职责，实现算法安全可控与科技研发自主权的价值协调。同时，《“十四五”国家信息化规划》提出，要“建设技术规则治理体系”，推进算法“安全评估审查”“标准制定”“伦理论证”。然而在治理实践中，法律法规、安全标准、伦理规范间的传导机制并不通畅，既未能实现治理主体与治理工具的优化组合，也无法充分发挥四者间的协调配合作用与协同治理功效。因此，如何通过完善安全治理结构，形成算法安全治理的闭环架构，进而系统、协调地化解算法安全的内生风险和衍生风险，将成为问题的关键所在。上文对算法安全治理规范框架与实践机制的梳理，大致展现了我国目前算法安全治理体系的基本面貌和建构理路。然而，我国正处于从数据保护迈向数据与算法赋能的关键过渡期，算法引发的安全问题仍构成严重的治理挑战，新技术新领域新问题也迫使我们仍需要不断思考如何将总体国家安全观的要求转化落实于算法安全领域。因此，未来算法安全治理结构的优化，基本方向是围绕算法安全的三维内涵展开制度构想，最终构建起系统的、适应算法技术发展的治理结构体系；具体操作是根据我国算法安全治理的现状与不足，打通各安全治理场域、要素间的衔接通道，逐步搭建算法空间的安全体系框架及主要制度机制，强化算法安全治理力度、精度和广度。从技术自身维度来讲，算法安全意味着算法技术安全可控以及能够保持稳定的安全状态。对于算法自身安全，欧美要求算法掌控者采取“合理”的措施避免可预见的安全风险，保护算法系统不受未经授权的使用、破坏、修改或销毁，并主要从风险管理视角来设计安全保护策略。归根结底，无论是要求算法运营者“合理”预见算法安全风险，还是在实施思路上倡导以安全管理为基础的规制，都需要建构一种技术信任关系，为人机关系新格局下安全秩序的构建提供妥当的语境。为此，需从技术信任与治理可信两方面推进算法的安全可信控制，确保算法以可信状态得以设计、部署、应用和执行。首先，在技术信任上，引入技术正当程序，增强算法技术本身的可靠性，使公众对算法技术形成稳定的安全预期。技术正当程序在遵循透明、参与、可问责等传统价值预设基础上，强调通过技术手段的深度介入克服传统正当程序对自动化决策的解释力失灵问题，从而消弭个人和算法控制者之间的数字鸿沟。技术正当程序是一种基于过程的正当程序，要求算法掌握者忠实于模型的真实决策行为，在算法运行前、运行中、运行后均进行技术论证，并向用户提供一种有说服强度的解释理由。算法运行前需要算法设计者利用多种技术手段对其技术原理和可能风险进行最大化解释；运行中可以通过反不一致检测、价值偏离预警、神经网络中间层等技术手段介入审查；运行后还需要公权力机关进行事后监管和问责，必要时可以借助反向工程学的技术方法打开算法“黑箱”。总之，技术正当程序源于法律与科技之间的张力，是对既有理论面对算法崛起频繁失效的一个回应，也是稳步理性推进算法安全治理的长期方案。其次，在治理信任上，构建算法安全风险评估机制，创建可信的治理环境，提升公众对算法技术的安全感和掌控感。具体来看，其一，在评估主体机制设计上，可借鉴美国联邦《算法问责法案》的规定，设立专门的“算法师”或者“算法安全委员会”，对算法的准确性、可控性和安全性进行评估。实践中，算法安全评估工作可交由一个受控的、非特定的专家小组执行，他们在不向公众透露代码和其它专有信息的情况下，可以通过技术方法来完成算法的潜在外部影响评估，并能够干预、纠正不当的运算程序和决策规则。其二，在评估内容安排上，可围绕算法功能实现的正确性、代码履行的忠实度、算法选择随机输入的公平性、算法脱离机制的可控性、训练数据集的干扰性等标准，重点评估算法的设计是否与国家规定的安全要求或技术标准相一致。当然，要兼顾系统本身及对应数据集的评估，尤其要对可能产生系统性安全风险的“污染”数据集进行重点评估。其三，有必要针对性地设置算法矫正模型，聚焦“解释算法的算法”和“监督算法的算法”，进而发挥技术正当程序的风险控制功能。时机成熟时也应引入对算法开发者、系统架构师、算法掌控者、算法应用维护人员等主体的算法问责机制。从社会应用维度来讲，算法安全意味着规范算法的实际应用，最大限度地防范不可避免的社会安全风险，从而达到最佳的安全状态。如今，大数据公司、平台企业与资本的力量在算法的加持下结合为一种新的技术权力形态——算法权力，成为威胁社会安全乃至国家安全的巨大风险源。就此而论，算法权力的异化与滥用为算法安全增加了一个新的维度，即在算法的安全可信之外，还需将算法权力控制在国家权力的支配之下。而要实现这一社会应用维度的安全状态，关键在于强化算法掌控者的安全保障义务，要求算法掌控者十分小心地确保算法是以一种对社会负责的方式使用的，而不是在社会结构体系中巩固已经存在的偏见和假设，或者践踏程序正义原则。首先，要求算法掌控者在使用算法前履行特定的透明度义务。算法掌控者使用算法决策时须提交以下信息给相关算法监管机构：第一，这种算法将被用来做（或帮助做）什么决策，在使用该算法之前，该决策是如何做出的；第二，使用这个算法决策的原因是什么；第三，如何解释这个算法的输出，人类决策者会参与其中吗，该算法可以使用的人群是哪些；第四，将如何评估算法并在必要时进行修改，是否为定期监督该算法配置了资金和人力，谁将进行评估，以及如何进行评估，该算法的文本（或源代码）或训练数据是否公开可用；第五，是否考虑了替代方案，还考虑了哪些其他选择，为什么选择了这个算法，在不同的选择之间的权衡是什么。具体操作上，可要求算法研发主体和算法运营平台共同承担这一透明度义务，并接受社会、官方以及专业人士的监督。因为这既有助于对接公民的算法解释请求权体系，也有助于社会公众准确理解、接纳算法；而国家监管机构则能够提前防范算法可能的设计漏洞或应用缺陷。其次，强化算法掌控者的公共义务。从表面上看，算法安全失控的原因在于代码错误、不合理的假设或有偏见的数据等不合理的编程；但归根结底是计算能力的社会不公正使用，即算法的选择、分类、收集的数据种类以及分布式创建产生的社会成本的负担转移到公众身上。对此，弗兰克·帕斯奎尔提出，我们必须能够识别使用这种算法的个人或组织，关注使用特定算法的社会影响，强化算法控制者的公共义务。在公共义务的具体设定上，可规定算法掌控者负有不参与算法妨害的公共义务，算法操作者有义务不让公众在算法技术实现的分类、排序、边界、标签和优化过程受到“污染”，以及算法控制者负有建立特定的程序机制以规范如何处理已发现的安全风险的义务。比如，标准化或系统化过程中不得因歧视或偏见减损公众的权利和机会，风险评估过程中不得对公众声誉造成损害或者加重“算法暴力”，不得利用算法操纵来降低公众的福利，等等。而且，对算法安全的问责必须规范化，并纳入社会法律结构，以弥合算法安全的规范性要求与具体实践之间的差距。总之，从强化算法控制者的安全保障义务入手，对接算法透明、人工介入、算法安全评估、算法审计、算法备案、算法问责等制度机制，可以将算法权力控制在国家权力的支配之下，确保算法投入社会应用时不会诱发系统性安全风险。从国家主权安全的战略维度来讲，算法安全治理方案的设定，应当统筹算法防御与算法竞争，既要建构一个总体的算法安全防御体系，又要发展出更高效、更智能、更具国际竞争力的算法服务于国家安全。首先，建构总体的算法安全防御体系。第一，形成总体的算法安全思维与合作治理控制理念，预防、监测、主动控制算法安全隐患。具体而言，政府要加强相关研究，科学引导大数据公司、平台企业的算法研发与应用，并推动更加精细化、更具有针对性的算法安全立法和执法。企业应当根据法律法规的规定，建立健全算法安全管理流程和算法安全审核、自评估机制。同时，企业可推动内部责任机构的建立，专门负责统筹算法合规事宜与对接国家监管机构。社会组织和公民则应当在算法安全治理中发挥重要的监督功能。第二，细化我国《网络安全法》《数据安全法》的相应配套制度机制。其中，主要包括明确重要数据的识别认定制度、规定重要数据处理者的安全保护义务，确立一个多维度、可操作的算法安全等级评估框架。除了基础性制度机制，还需借助“技术标准”对数据与算法全生命周期加以规定。第三，确立网络空间主权与数据主权，进一步夯实国家对网络战、算法战的防御能力。在遭遇网络、算法攻击时，国家能够有效运用技术、外交、国际法等多元化手段对他国采取反制措施。此外，在重点防范国防、公共事务、国民经济、社会治理等关键领域的数据安全风险的同时，也要高度警惕多维异构数据经集成比对、概率模拟与决策、人机推理验证后产生的安全风险。其次，在国际竞争中发展更优算法、提升算力。随着算法超级大国对数据与算法资源的掌控日益增强，传统国家主权与安全格局也随之变得十分脆弱。通过算法、算力奠基权力，已经成为争夺新空间控制权的重要竞争方式。如果能够进一步开发数据流通、利用价值，充分利用算法算力优势，那么就可以更好地应对经由数据与算法衍生出的国家安全问题。因此，在主权国家进行新一轮科技革命博弈的背景下，单纯强调防御尚不足以为主权国家提供安全秩序，还需从被动安全理念转向主动安全理念，不断开发先进算法，完善人工智能战略布局。不过，值得注意的是，由于算法技术大部分掌握在网络科技巨头手中，这需要国家与其建立深度合作关系，联手建构更加有效的算法能力体系。下一步我国需高度重视算法的战略价值，构建成熟的数据要素市场与算法竞争秩序，推动算法技术攻关和算法专业人才培养，探索算法在关键领域的深度应用，积累算法算力的国际优势，并利用其提升国家安全治理能力。最后，还需在全球层面构建跨国互动、合作共赢的算法安全治理机制，提升我国的数字规则话语力。以大数据与算法为核心的新一代科技具有跨国家的属性，在算法的应用上对国家安全造成的威胁也是跨国界的。因此，在构建相对完善的国内算法安全治理关系基础上，还需构建良性的国际算法安全治理关系。从我国的国情以及新兴科技的长远发展来看，我国应当在网络空间命运共同体理念指引下，构建合作共赢的算法治理关系，积极参与、分享算法安全治理的国际规则制定。一方面，我国应当根据核心关切，选取算法应用的重点领域，建立数据跨境流动规则、算法安全治理规则的双边和多边机制，共同合作缩小“数据鸿沟”“算法鸿沟”。条件成熟时，还可在双边或多边关系的推动下，进行算法安全战略的互利合作，制定更有针对性和实效性的算法安全治理推进方案。另一方面，我国有必要从构筑“算法国际冲突”法规体系、支持联合国框架在算法安全治理中发挥更大作用、对西方所推崇的算法霸权和算法冷战思维“祛魅”等角度入手，提升我国在国际算法安全规则创制中的话语力，并通过规则治理抢占全球数据与算法规则话语权。以算法为代表的新一轮科技革命是极具颠覆性的，算法所营造出的技术环境已经与自然、社会环境一样具有实质意义，共同构成了安全治理实践的现实基础。算法安全具有安全问题的共性，即本质上是一种合理控制下的安全，算法安全治理的核心也是从多个维度保障算法的安全可控。正因如此，本文将算法安全的理论内涵提炼为算法系统自身安全可控、算法社会应用安全可信与国家主权不受算法损害三个层次。当然，更重要的还在于，算法安全问题呈现出不同于传统安全的新特征，其安全风险与安全需求，特别是人机互动的可靠性这一安全需求，具有高度复杂性，安全实践形态与安全治理所需手段也具有多样性。这在我国算法安全治理的规范框架及实践机制中得以充分体现。算法安全治理需建立一种开放性、反思性与统合性的治理谱系，将零敲碎打的制度安排与应对机制整合为系统性的治理图式。这一治理图式所包含的治理目标、治理原则、治理主体、治理内容、治理程序等要素可以动态调整，但无论这些要素如何变化，其均应通过算法技术与社会、国家的互动关系展开，并根据人类的价值权衡来应对不断变化的算法安全风险。对此，我们仍然需要通过建构算法安全治理的基础规则和实践图式，来确保算法驱动的实践合法性和安全可行性。当然，本文围绕算法安全的理论内涵与实践机制的讨论，只是算法安全议题网络中进行系统化建构的第一步，后续算法安全的理论体系、风险识别、治理模式、专项立法以及治理工具应用等重难点问题仍需更深入的研究予以拓展。
文章刊于《云南民族大学学报（哲学社会科学版）》2023年第6期。篇幅限制，注释从略。若需引用，请查阅原文。
往刊浏览：
2023年第5期全文链接