王德夫|论人工智能算法的法律属性与治理进路

点击蓝字 关注我们

SUBSCRIBE to US

作者简介

王德夫，男，天津大学工学学士、武汉大学法学硕士、法学博士，现为武汉大学法学院知识产权法专业讲师、武汉大学社会学系博士后，武汉大学知识产权法研究所和武汉大学网络治理研究院研究人员。王德夫博士具备跨越工学（软件工程）、法学和社会学的复合教育和科研工作背景，具有在知识产权行政管理部门的一线工作经验，对于计算机网络、大数据、人工智能等现代信息技术保持着长期的观察与思考，具有鲜明的技术专业性和交叉研究特色。

本文发表于

《武汉大学学报（哲学社会科学版）

2021年第5期

摘要：人工智能算法专注于解决“如何实现智能”这一特定的技术问题，是一种特殊的技术方案，相关的法律治理也围绕这一基本属性而展开。在人工智能算法设计和自我完善过程中所产生的新知识与相关利益，可以通过知识产权制度进行确认和分配；而对于如何平衡投资利益与社会公众利益，以及如何使法律监管突破黑盒障碍等问题，则应设计专门制度予以解决。通过创新性的“算法可理解+数据可信+参数可解释”治理架构，结合算法识别、数据可信以及算法可理解等基础性规则，可以突破算法解释、平台责任等现有治理手段的局限，确保技术理性与社会发展的协调与相互促进。

关键词  人工智能技术；算法治理；知识产权；算法可理解；数据要素市场；数据安全；数据可信

当下，我国仅通过《电子商务法》中零散的规定，对各类智能产品、服务底层的算法予以规制。这种做法的应急色彩较浓而系统性不足，也难以适用于电子商务领域之外的人工智能应用活动。对此，在理论层面，相关的治理活动既要充分地应对人工智能算法与生俱来的技术底层性和不透明性，也要展现出足够的前瞻性。在现实层面，则应将人工智能算法治理从宏观讨论层面进一步扩展到治理框架与重要规则设计的层面，探寻符合相关技术条件的治理规则。

01.

人工智能算法的基本范畴与法律表达

人工智能算法作为广义上计算机软件算法的一种特殊类型，也属于为了解决某个特定问题或者达到某个特定目的所要采取的一系列步骤。人工智能算法与传统计算机软件算法之间的差异，是其自身成为独立技术对象和法律对象的前提。

（一）与传统计算机软件算法的差异

一方面，人工智能算法专注于模拟基础智能，不因具体应用中的不同功能而变动，并以此区分于传统的应用软件算法。另一方面，在运行逻辑上，人工智能算法的运行是以迭代后的新算法自动更新程序本身，获得学习与进化的能力，进而找寻通用的、足以令计算机具备人类智能的理想方案。这种自我编程、自我进化的能力，是人工智能脱胎于静态的计算机程序而展现智能的主要方式。

（二）人工智能算法的技术特征

其一，人工智能算法具备底层通用性：同一个人工智能系统可以运行于不同的场景之中，产生截然不同的技术与应用效果。

其二，人工智能算法的迭代与进化高度依赖外部的数据输入，极大地抬高了相关市场的进入门槛，为相关的市场行为监管、竞争状态分析乃至安全评估带来了挑战。

第三，人工智能算法的输出具有不确定性。人工智能算法始终是一个不断变化的中间状态，同一名目下不同版本的算法，却有可能在基本功能、关键性能以及潜在应用领域等方面具备截然不同的能力。

（三）人工智能算法的主要分类

其一，按照人工智能技术本身的先进程度，或者相关应用领域的敏感程度，人工智能算法可以被划分为管制类算法和非管制类算法。对于管制类的人工智能算法，需要通过专门法予以规定，以明确受管制的对象范围和行为规则。对于非管制类的人工智能算法，相关的权利和义务承担则更多地遵循各专门法或者一般的法律原则，具有较大的自主性与灵活性。

其二，按照相关算法的技术细节是否向控制者之外的其他人公开，人工智能算法可以分为保密类与开放类算法。

第三，按照相关算法的外在表达形式，人工智能算法可以被划分为作品类算法与技术方案类算法。技术方案类算法，更多地会与知识产权制度中的专利或者商业秘密产生关联。在确定治理目标与手段时，相关制度设计会也更多地倾向于确保技术信息的安全、有效与开放。

（四）人工智能算法的法律表达

笔者所讨论的人工智能算法聚焦于通用算法，即：处于人工智能技术底层的，兼具保密与开放性的非管制类技术方案，具有特定的技术功能和物理边界。其本质是一种技术信息，可以作为民、商事权利客体和公法视野下的监管对象。

在外部形式方面，人工智能算法具有相对固定的形态，可以实现法律上的识别与流转。一方面，它包含有人工智能系统运行所需要的完整的技术信息和必要步骤，而不仅仅是抽象的思路或者想法。另一方面，它具有跨语言（编程语言）的通用性——不同应用领域、技术背景的使用者（编程人员），只要具备基本的专业知识或者能力，即可以根据人工智能算法相关文件，将其与自己所期望实现的功能相结合，形成新的人工智能应用。在内在实质方面，人工智能算法是一种特殊的技术方案，应当被纳入处理技术方案相关问题的专门制度体系中。它专注于解决如何实现设计人员所理解的智能这一特定技术问题，不是抽象意义上的智力活动的规则和方法，也不被用于解决其他的技术问题。

02.

人工智能算法治理的基本规定

（一）人工智能算法治理的对象

人工智能算法治理的对象，应该是明确、清晰的人工智能算法，而非平台、某种具体应用或者某些特定信息之类的关联对象。

（二）人工智能算法治理所确认的利益

首先，要承认和保护人工智能控制者的投资利益。对此，需要法律明确地尊重和保障相关投资利益以及人工智能控制者充分的自主活动和经营利益，以达成鼓励创新、鼓励投资和预防技术风险的平衡。其次，应保护相关技术研发者的知识利益。人工智能算法背后的知识创造和知识利益分配，也隐含着知识保密与公开、信息独占与开放的深层次利益博弈。第三，应保护社会个体的人格与经济利益。对人工智能算法的法律治理也必须破除技术干扰，从“人”的角度衡量技术的价值。社会公众作为智能技术的消费者和数据供给的原始来源，所应享有的利益也不应仅仅限于个人信息得以保护或者免受打扰。此外，从防范风险的角度观察，还有更长远视角下的社会整体利益需要被纳入法律治理的范畴中。

（三）人工智能算法治理的路径选择

人工智能算法治理的思路可以进一步明确为基于知识产权制度和基于专门法的两条并行的路径。通过知识产权制度来规范人工智能算法开发和应用中的新型对象，对所产生的种种利益或者行为予以确认和规制，具有现实的优先性和便利性。人工智能算法作为一项特殊的技术方案，无法被整体地划入专利、计算机软件或者商业秘密范畴，其所引发的利益变动以及现实中的种种问题，也非单独的知识产权法律制度所能应对。在我国相关制度供给不足的现实下，应急之余，也应该尝试通过专门法来对人工智能算法实施综合治理。

03.

人工智能算法治理的专门制度设计

（一）治理架构：围绕人工智能算法构建综合治理体系

首先，系统化的治理体系应体现对现有制度的充分利用。一方面，可以通过具有网络治理基本法地位的《网络安全法》以及《数据安全法》等法律规范，对人工智能算法的设计与实施进行监督。另一方面，可以通过具体应用所涉领域的专门法实现对智能应用中的算法活动予以监督。与此同时，也可以通过知识产权制度，确认和保障相关的知识产权利益，鼓励和促进人工智能算法由技术底层走向开放，使用户可感知、可理解，使社会公众可以尽量自由地获取和利用相关知识。此外，还可以从加强反垄断执法的角度，对利用算法工具实施的新型滥用市场支配地位或者垄断协议等行为予以规制，规制运用算法工具所实施的垄断行为。

其次，应超越传统的“算法可解释”和“平台责任”治理模式。一般意义上的“算法可解释”既无法应对人工智能算法迭代所造成的版本干扰，也无法使底层的算法原理和具体应用中的实际效果间形成清晰的映射。也不能把人工智能算法治理简单地等同于以平台责任规范人工智能控制者的行为。

第三，以创新性的“算法可理解+数据可信+参数可解释”为骨干构建新的治理框架。在以算法为主要对象的治理体系下，着重强调数据与参数相配合。“算法可理解”可以被认为是一种低水平的算法开放，它以最低限度的、可以被监管部门的专业人员所理解为基本要求，而非对全体社会成员的充分公开，并以这样的方式保障人工智能控制者、研发者的自主性和保密利益。“数据可信”和“参数可解释”可以较好地发挥各自的作用，同时也保有合适的监管尺度。

（二）治理策略：遵循技术与市场规律

一方面，应在传统的“事后救济”之外，尝试对人工智能算法风险进行事前防范。至少应当包含三方面的内容：其一，人工智能的控制者、经营者需要将其所控制、使用的人工智能系统的算法与其他的技术对象或者技术行为区分开来，以满足必要的检查或者开放要求。其二，人工智能的控制者应当能够解释其所应用于算法的各种参数的合法性。这种解释的标准较低，只要求相关参数的设定以及其所对应的行为，不得违反现行法律法规的禁止性规定。第三，人工智能的控制者应当能清晰解释其人工智能系统所使用数据的来源。此处的解释标准除了要满足合法性的要求外，还应满足合理性要求，并与外部的数据搜集、使用规则相衔接。

另一方面，以具体的人工智能应用领域和方式，以分级分类管理的思路，厘定不同的算法理解标准。还需要根据不同的应用场景，设计差异化的“算法可理解”的方式与程度。

（三）治理规则：体现技术效果与社会效果的平衡

其一，应设计合理的算法识别规则，同时避免“唯算法论”的误区。其二，应设计数据可信规则，摆脱“唯数据论”的干扰。数据与算法并非彼此替代关系，数据治理不能代替其他的治理规则。第三，应设计算法理解规则，明确“可理解”的尺度与方式。算法可理解规则的设计，以对相关信息系统控制者、开发者、经营者的投资和经营利益的确认与保护为前提，不会造成人工智能系统控制者或者研发者保密技术的外泄，也不会为相关经营者带来过重的解释负担。最后，应完善个人利益保障规则，同时也为技术发展保留足够的空间。

END

*本文为摘编版，完整版可点击“阅读原文”查看

本文作者：王德夫

本文编辑：涂懿敏    

本文审阅：张婕妤

（限于篇幅，本文注释均已省略）

（本文观点和内容与本公众号无关）

延伸阅读：

主　    编：周莙松

副  主  编：陈思文 

来稿请投：[e-mail]

转载须授权