陈吉栋丨人工智能时代的法治图景 ——兼论《民法典》的智能维度丨技术与文明

◆ ◆ ◆ ◆

上海市社会科学界联合会主办主管

有学术的思想  EXPLORATION AND FREE VIEWS

官网地址     http://www.tsyzm.com

◆ ◆ ◆ ◆

注：近期微信公众号改版，订阅号消息不再按时间排序，为了继续收到我们的文章，希望您可以在文章底部点击“在看”或者给“探索与争鸣杂志”公众号设置“星标”（公众号界面右上角三个点）。让系统知道这是您常看的公众号，这样您以后就可以看到我们的消息啦。自2018 年6月1日起，本刊只接受《探索与争鸣》网站投稿。请收藏唯一真实官网地址www.tsyzm.com。原编务邮箱[e-mail] 停止使用，原投稿邮箱[e-mail]为编务邮箱和应急邮箱。

人工智能时代的法治图景

——兼论《民法典》的智能维度

陈吉栋 | 上海大学法学院讲师

本文刊载于《探索与争鸣》2021年第2期

非经注明，文中图片均来自网络

陈吉栋

从原子到比特的维度转换：法治所寻求的有效环境如何影响法治

研究《民法典》的路径非止一端，其对于智能社会的调整限度应被重视。季卫东教授将人工智能对社会系统的影响归纳为三方面：日常生活各方面的数字化、经济活动的重点从资源到数据、市场交易的形态从物品到服务。正是在这些影响下，人工智能时代呈现出智能网络化、算法黑箱化、机器自主化三大基本特征。在法治领域，“ 代码化法律”与“法律代码化”的双向运动正在上演，新的秩序结构正在形成，以代码为代表的信息技术发挥着越来越重要的秩序供给功能。在此背景下，《民法典》所具有的鲜明时代特色主要体现在对以人工智能为代表的新兴技术进行了回应。在这场由原子到比特的深度变革中，我们应以何种维度审视《民法典》，引导和规范新型技术的功能与程限，这是当下法律人在信息时代应该致力解决的问题。

智能维度是什么，或者说为什么会发生观察维度的转换？回顾传统的民法研究历程，我们多以法律的视角去探知世界，目的是探究在某一项法律制度环境中，其对于民事主体的具体影响。但是在人工智能法治的相关研究中，这种传统的观察维度却转化为法治所寻求的有效环境如何影响法治。这种转化背后的基本背景是：随着信息技术的成熟，人类社会的经济价值发生了迁移，我们从拥有某物，或者说物理上的原子，变成了拥有信息，在数字环境中，信息意味着比特。这种从认为原子具有经济价值的世界向信息具有比特价值的世界的转变，催生了我们研究视角的转变，也构成了我们研究的重点。

如何认知比特世界的法治图景，涉及不同法律思维模式的选择，就本文而言，传统民法形成了一条相对清晰的精神主线，即民事主体通过法律行为创设权利义务，并为自己的行为可能引发的损害负法律责任，在当事人之间的权利义务不明确、不周延时，可以通过法律原则予以解释。依此精神主线观察，《民法典》的主要问题即被归纳到权利主体、法律行为、权利义务（法律原则）、法律责任等部分中，文章尝试依此主线探析纷繁复杂的信息技术影响下的法治图景，即首先检视人工智能对于民事主体制度的冲击与挑战，讨论主体行为在比特世界中的智能合约体现，其次分析主体权利的通证化趋势，最后以智能驾驶为例讨论比特世界民事责任的客观化趋势。由此，可以探寻《民法典》的智能维度，思考应对人工智能法治图景的基本方法，讨论人工智能法律体系建构的基本框架。

跨越原子与比特世界的多元主体景象

主体制度的法律价值主要表现为：法律对人主体资格的承认以及人自身的主体意识。法律赋予主体资格的人，就是法律上的人，便具有主体性。在由原子到比特的空间转换中，人在跨越两个世界的同时，自身也遭遇了最根本的冲击。比特世界呈现出的多元主体景象，引发了哲学、伦理学与法学学者的探讨。

（一）意思要件作为拟制的条件

显然，人工智能体在我国现行法律体系中并不具备主体地位，虽然也可以采取一定的法释义学路径将人工智能体论证为法律主体，但这一路径并未获得普遍认可。目前，人工智能可否通过法律拟制获取主体资格一直是这一讨论的焦点。这一路径的支持者一般以《民法典》法人制度作为现行法例证，然而在法人人格的论争中，“实体说”已经取代“拟制说”成为统治学说。采取“拟制说”仅把法人当做一种手段而非目的，并不能解释丰富的法人实践。也正因此以法人的拟制路径论证人工智能主体资格，其科学性存疑。而且既有讨论尤其强调拟制的技术特性，似乎拟制是万灵药，只要运用拟制即便是山川河流也可以具有法律人格。但事实是，即便拟制人格仍需要意志能力要件。仍以法人为例，无论对于法人的本质采何种学说，意思要件均不可或缺，法人能有效从事民商事活动，是因为“法律使它可能形成独立于各个成员的意思的‘总意思’，也可能通过为它设置的个人（机关）而活动”。可见，拟制为主体的目的并非立法的“简省”，而是强调从事民事活动应当承担权利义务，为了实现这一目的，即便运用拟制手段赋予人工智能主体地位，也需要以拟制之人工智能的意志能力作为必要条件之一。

讨论人工智能体的机器意志与法人制度的不同之处在于，法人是自然人的组合，其意志的本质仍是人的自然意识，而机器意志则与此不同。现阶段对机器意志的研究主要围绕着量子涌现机制、全局工作空间、信息整合理论以及意识高阶理论等方面展开。从研究的策略来看，则主要分为算法构造策略与仿脑构造策略两种途径。在具体的实现方法上主要可以分为三类：一是采用类神经网络的方法，二是采用量子计算方法，三是采用规则计算方法。回顾人工智能的发展史可以发现，让人工智能具备技能和心智一直是人工智能的发展目标，即“让机器做通常需要智能才能完成的有意义的事情，并模拟以生理为基础的心智所发生的过程”。正是在这个意义上，通过讨论自由意志探讨人工智能的主体资格是可以成立的，甚至可能是行得通的。

（二）自由意志与人工智能体的主体性

1. 法律人格意义上的自由意志

当下，学者对人工智能机器意志的讨论已经远离了自由意志原初的哲学背景，而更多是从语义学出发，强调自主性、自主决策、自主意识的意义。自由意志论或者机械意志论的一个基本目标是为了确定人工智能是否具备人格，能否成为法律上的主体，从而为其行为承担相应的法律责任。然而，目前的研究还不能清晰地解释自然人的自由意志是怎么产生的，乃至人类有无自由意志都是需要讨论的问题。从语义学来说，自由意志缘于人有神性（宗教性）的讨论，即人类自由意志以上帝为根据。但自笛卡尔以来，在主体性问题中讨论自由意志（如人的价值、尊严等），旨在摆脱神的影响，树立人的地位。这一意义上的自由意志突出的是根据性，而非其发生学意义，主要与法律人格相关。自然人拥有自由意志，具有自然人格，可以无差别地成为法律主体。也是在此意义上，我们说植物人也具有自由意志。总之，这一层次的自由意志强调的是自由是人格，指向自然人的权利能力（法律主体地位）。

2. 行为能力意义上的自由意志

追溯自由的本源——意识，显然有助于我们理解自由意志。在柏格森（Bergson）看来，意识表现为绵延与运动的诸多状态，绵延只能被归于意识，物质性的东西没有绵延。在人的意识中才发展出行动的自由。自由意志是全部自我的表现，自由就是从自我所发出并且唯独从自我所发出的一种表示出整个人格的行动。在此基础上，我们就可以阐释自由意志的第二层意义。约翰·塞尔说，我们所有的意识，包括我们有意识地作出决定的过程，完全依赖于较低层次的大脑进程，即人的神经元活动决定了我们的意识，在意识的基础上形成自由选择的能力，经选择而有意向性的意识就成了自由意志。只有自由意志才能赋予行动多样的可能性，没有意识、没有自由选择的意向就不可能有真正意义上行动。一个人总是为了达到其目的而行动，也正因此，人类必须为他们的行为负责。依此观察，人类有了意向性的意识后，才能表征出自由意志。法律主体由于具备了自由意志，才可以自主行为，法律调整的就是人有意识的行为。在这种使用意义上，自由意志即体现为行为能力制度，行为能力主要是指法律主体能辨别行为的内容、结果。

（三）组织体的新发展：去中心化自治组织

在去中心化记账技术（DLT）生态系统中，任何组织的创新均可在三个不同架构下观察：DLT 协议、智能合约和组织体。在区块链商业领域，人工智能体对组织体的冲击常被人忽视。区块链去中心化自治组织（Decentralized Autonomous Organization，缩写DAO）就是建立在分布式记账技术上的典型组织体。DAO 以智能合约进行管理，以一定的共识机制允许Token（代币或通证）持有者拥有对重大事项的管理权利，这样通证持有者可以就经济或非经济事项进行共同管理，在一定程度上突破了传统企业所形成的科层机制。

区块链去中心化自治组织（DAO）

目前，区块链已经成为资本平台，加密货币和数字资产在DAO 内部移转。而THE DAO 事件则显示出，当出现了相应的损害，由谁来承担责任，成为监管的难题，这就涉及对于DAO 法律性质的讨论。笔者曾主张DAO 是一种合伙企业，为了破解DAO 组织的责任承担难题，进一步将DAO 性质认定为《民法通则》第52 条规定的合伙型联营。然而《民法典》并未接受联营的概念及其制度，DAO 的性质问题仍亟待解决。不过，无论是哪一种界定，降低投资者的风险，促进去中心化自治组织对智能合约技术的生产性使用和开发，最终形成一个更加无摩擦的二级市场，均应是其基本宗旨。

综上，对于人工智能体主体性的讨论，均需从实质和形式两个要件分析：即可以形成独立于人工智能体自身之意思或独立于Token 持有人个人意思的组织总意思；具有人工智能体自身之财产或者以Token 持有人账户为基础具备自己的财产；人工智能体可以登记或者以合约和共识机制为基础具备组织性要件，满足准则主义的程序要件。

比特世界的行为模式及其解释

在原子空间，民事主体的法律行为以意思表示为要素，比特世界中运行的代码及其构成的算法程序，比如广为人知的智能合约，可否有效负载主体的意思，甚至是否符合意思表示的构造，显然是我们探索比特空间法治图景的核心内容。

（一）智能合约是电子合同的升级版本

比特币及其底层技术区块链的出现，为智能合约提供了具有安全性和准确性的技术平台，智能合约随着区块链网络的发展而呈现勃兴趋势。之所以谓之“智能”，原因是其较传统的合同多了智能（或谓自动化）因素。智能合约可以是区块链上直接以代码呈现的意思表示，此意思表示通常需要对方当事人的相应行为才能进一步确认并履行合约内容。这种类型属于典型意义上或狭义上的智能合约。而尼克·萨博（Nick Szabo）所界定的“一套以数学形式定义的承诺，包括合约参与方可以在上面执行这些承诺的协议”，则属于广义上的智能合约。总体来看，智能合约内容体现在计算机代码组合成的程序中，而不单单是典型电子合同中使用的计算机代码，其最突出的特点是可以自动实施预设的合约内容。缔约方使用加密技术“签署”智能合约并将其部署到区块链，当满足代码中的条件时，程序的触发预设的操作。一旦商品或服务交付，智能合约可以通过区块链强制自动执行支付。如果不付款，它可以恢复或暂停服务。与此不同，其他电子合同达到所需的状态仅会自动向消费者提供商品或服务。

尼克·萨博（Nick Szabo）

目前，智能合约与法律上的合同呈现交叉态势。一方面，智能合约的适用范围不限于交易，还可能用于区块链自治组织的内部管理等场域。另一方面，智能合约尚不能囊括传统民法上的所有合同，而只能应用于合约内容中各个地方均有精确数值的合同。就实践来看，智能合约常用于可高度精确编程的事务，例如付款、数字资产转移等。因此，为适应智能合约技术的发展及其特殊性，智能合约调整机制的构建应该相对审慎，允许例外的存在。

当事人发布智能合约，具有改变当事人权利的意思，这显然是基于合约发布方的意思形成法律关系，因此，智能合约符合民法对意思表示的界定，可将其认定为法律行为。《民法典》并没有明文禁止用数据来表达合同，智能合约均采取数字代码的形式呈现其内容，属于《民法典》中的“数据电文”。如果按照法律合同的“要约－承诺”构造来判断智能合约的结构，一般来说，经发布的智能合约可以被认定为要约，调用并执行要约的那段代码可以被认定为承诺。只不过由于对智能合约的“承诺”需要通过调用并执行代码进行，而执行代码的意思表示在技术上无需送达智能合约发布人。因此，对于智能合约的“承诺”可以界定为意思实现，作出承诺的同时也在履行合约。

（二）智能合约的解释难题

智能合约能使用计算机代码最大程度地减少语言错误等传统合同法中棘手的问题，但也存在解释难题。这一难题本质上是智能合约在多大程度上可以将自然语言编程（转化）为代码。当智能合约仅仅构成法律合同的部分内容时，或者双方对于智能合约的意思存在理解不一致的情况下，究竟如何解释这个代码所承载的意思，是一个难点。

我们可以用一个案例来进行说明：书法家甲同意以1000 万的价格卖给收藏家乙一本欧阳询的《九成宫醴泉铭》拓本，合约规定价款将在拓本鉴定后支付。但买卖双方的鉴定专家对于拓本的年代出现分歧，买家认为是明代本，卖家则认为是宋本，遂要求返回资金。这就是智能合约遭遇的合同解释问题。不同于传统合同，智能合约解释更多依赖于分布式分类账技术，即该案中重要的不是书法家或收藏家的观点，而是区块链记录中买卖双方是否履行了合同条款，更确切地说是“矿工们”确认了什么。当然该案还有另外丰富的解释可能，单就解释规则而言，传统民法理论采取规范主义解释规则，即考虑意思表示受领人的利益。但智能合约最终涉及到代码解释，上述规则在智能合约意思表示解释中的具体适用情形还需要进一步探讨。

欧阳询的《九成宫醴泉铭》

比特世界的权利变革

比特空间中，信息就是原子，财产以数字形式存在。目前学界围绕数据上的利益展开了数据权利及其体系构建的讨论，且为了进一步发挥数据作为生产要素的效能，出现了数据资产化的理论探索与实践，加密资产尤其是通证及财产的通证化（Tokenization）发展迅速，如何对其进行权利化评价呢？

（一）通证及通证化

在区块链网络空间，比特币和以太坊的公链业务依靠加密资产（crypto-assets）来激励经济活动。商业组织为拓展其业务模式，需要创造形式多样的加密资产，授权其用户与其产品进行交互，从而达到促进奖励和普惠所有利益相关者的目的。因此，加密资产是依赖加密技术与分布式记账作为其外在认知价值或内在价值的私人财产。其中，为数近万种的加密货币（cryptocurrency）形式——通证最引人关注。

就技术本质论，通证与Cookie 和Session 一样，是互联网的一种身份验证方式。由于只有拿到通证的节点才能通讯，通证客观上就具有了权益证明功能。以太坊及智能合约的出现赋予了通证更广泛的内涵，逐渐形成了加密、权益、可流通三个要素。以太坊ERC－20 标准更是使得任何人均可发行通证，表征任何权益和价值。目前，实践中的通证可以大致分为证券型通证（security tokens）、实用型通证（utility tokens）和加密货币代币（crypto-currency tokens）三个主要类别。不过，由于创建加密资产背后的原因一直在演变，其使用场景也逐渐丰富，这使得定义通证并界定其性质变得困难。我国有学者认为，应将广义的数字货币可以界定为准货币。但是面对多种通证及其复杂的商业实践，进行单一化的界定显然不符合实践要求。不过，鉴于通证是资产在区块链上以数字形式保存的权益凭证，将通证认定为《民法典》第127 条的虚拟资产可能是妥当的。

（二）通证化：打通原子与比特

将现实世界中的资产（原子）转换为区块链系统上的数字通证（比特），就是意义更为深远的财产（权利）“通证化”。在理论上，可通证化的资产可以包括一切的权利客体。要完成资产的通证化，真实资产要进行区块链数字化转换，记录在区块链中，才能在相关区块链平台进行转移。通证化的优势在于，分布式记账技术与加密技术使得权利变得更为清晰、透明且不可改变。而且，理论上通证可以无限分割，降低了投资门槛，增加了资产流动性，从而使权利人所持有的底层标的资产权利实现局部分割，权利人无需参与整个资产金融活动。在此意义上，通证化其实是财产证券化的延伸。

我们可以确信，未来传统民事权利中的物权、知识产权等权利将可以进行通证化而成为区块链网络中的数字资产。通证与这些权利的通约以及相互间的转换，构建出了完整的通证经济。在技术上，将权利客体数字化、资产化，转化为区块链上的通证，并非难事。但问题是，“通证在区块链网络中是否真的可以通过流通和交换获得价值，或者有了通证后，如何兑换成通证所代表的权利”。这样即可沟通原子与比特，但这有待于通证经济整体发展程度的提高，正如哈耶克所指出的，“人们接受它的程度（流动性）和人们对其价值之变动的预期（稳定还是异变的）”。

民事责任的客观化趋向

“个人责任的古典世界”一直受亚里士多德的归责理论支配，即我们只能针对当事人有能力控制和他实际控制的那些自觉自愿的事情追究责任。这种归责理论主张犯错者必须付出代价，适应了公众对道德错误的普遍情绪，行为者因此必须采取合理的注意，因此侵权责任认定的核心也聚焦于行为者的注意义务及其违反。但当我们面对一个“工业现代性的不同世界”时，传统的责任模式就失去了吸引力。在更为不同的比特空间，不法行为又有哪些变化，如何评价主体行为责任，构成了讨论人工智能法治的逻辑闭环。

（一）人工智能体双向交流带来的预见难题

人工智能的发展带来的变化是改人与物的单向交流为双向交流。人工智能在一定范围内自己行动（自主），并可以通过学习创造与环境相适应（自适应），有些高级的弱人工智能甚至可以再现人类智能的部分性能。据研究者分析，“一个能够自主学习的人工智能系统的行为部分依靠其后天的经历，即使是最细心的设计者、编程者以及制造者都没有办法控制或者预测人工智能系统在脱离他们之后将会经历些什么。所以，人工智能系统的设计者无法预测人工智能系统在现实中将会如何行为”。

人工智能引发的责任问题，以自动驾驶汽车等智能运载系统致害责任最引人关注。依据目前的学术讨论，自动驾驶汽车致害时可能会发生责任的竞合。自动驾驶汽车致害时，如何判断机动车一方过错成为问题。在典型的情况下，责任归咎的核心是系统本身的问题，而实际上我们很难证成驾驶人的过错或者系统的过错，这是选择传统侵权责任路径时很难摆脱的困境。此外，若选择《民法典》第1202 条规定的产品责任路径，则需要证成自动驾驶汽车这个产品存在质量瑕疵或者缺陷。但我们也很难证成系统算法有瑕疵，所以又陷入了与机动车肇事侵权责任相同的困境。在这种背景下，如果不再重提赋予自动驾驶汽车法律主体地位，则需要转换思维模式，抛弃形式主义统一的传统逻辑，避免过失责任适用带来的不必要麻烦，直面风险本身，关注赔偿安排和利益平衡，这样就转换到了规制工具主义的思维模式。

（二）工具主义的产生与责任客观化基本趋势

在19 世纪，随着工业、金融风险的增加，加上责任保险的系统展开，传统责任观念让位于更严格的责任观念。严格责任无关个人的过失，而关注集体风险的分配，这就是规制工具主义（regulatory-instrumentalism）对于责任的基本主张。规制工具主义试图指出，之所以存在损害赔偿，不是因为非个人的疏忽( 过失)，而是因为不可接受的不法行为造成风险结果，赔偿责任并不意味着对行为人的否定判断。在这种认识下，归责原则即可支持有益创新并将创新技术对人类健康和安全等构成的风险管理在可接受的水平上，从而在支持技术创新与适度管理风险( 人身、财产面临的多方面风险) 之间可接受的平衡。

从科技角度观察了归责原则的变化，归责原则的客观化和损失承担的社会化似乎是发展的趋向。“回顾历史上法律责任的归责原则，先后有加害责任、过错责任以及无过错责任，其发展实际上就是一个归责原则客观化的过程。所谓归责原则的客观化，是指在过错责任的范围之内，有过错推定的广泛运用；在过错责任的范围之外，则有无过错责任的大力推行。二者的共同特征是以造成损害事实作为确定责任的逻辑前提，而将在宏观过错作为附加限制调价或干脆置之度外，因此成为归责方式的客观化。在这一过程中，科学技术起了重要的推动作用。”这一认识虽然笼统，但反映了责任客观化的基本趋势。与工具主义的主张呼应，大陆法系所谓过错的客观化倾向仅指侵权责任中过失判断标准的客观化、类型化，显然较工具主义的上述主张有巨大差距。它仅试图指出不在个案中判断具体行为人之过失，而采取一般理性人作为判断标准。当行为没有达到必要注意义务之客观典型化的要求时，即被视为有过失，这导致了按照职业和危险领域进行分类的所谓“交际圈理论”。在根源上，客观类型化的过失标准源于客观承担原则，即每个人原则上都会被期待，其会在交往中保持处于他的位置所应有的注意。有学者试图以信赖保护思想解释这一趋势，但另一种较有说服力的学说认为，侵权法领域并无信赖保护问题，基本的理由是，没有人会提前信赖其害人的个人能力以及其损害赔偿义务。不过，这一理由在比特空间变得不再重要。伴随数字化生存趋势的推进，人工智能致害责任的构成和归责的基础本身也在发生调整：首先，智能空间中，随着交互方式的数字化和智能化，致害行为有智能化的趋势，且客观上将留痕于线上线下，从而助推归责原则的严格化，个人信息等致害领域将越来越多采取无过错责任。其次，比特世界的侵权过错判断也将进一步的规则化、要素化，即针对一般人的理性与特定规则来判断行为的主观过错。原因是，在通证所带来的特殊组织关系的逐渐增加等因素影响下，信赖变得如合同领域一样可能。最后，在前两点的基础上，这一客观化或将影响传统民法对于一般侵权行为和特殊侵权行为的划分，理由仍然在于，这一划分基础的数据化导致了侵权行为的同质化，摧毁了两者划分的现实基础。

结语

面对如此纷繁复杂的人工智能技术现象以及其融合发展，比特世界迅速扩张，且与原子世界的连接互动逐渐增强。面对这种生存环境的根本变化，虽然目前还看不出传统民法知识的根本性变革，但我们对于人工智能时代的法治图景的描绘已经开始。不过，探索精神主线也罢，提供观察视角也好，其间的逻辑既是从人工智能到《民法典》，也是从《民法典》到人工智能。化用伦理学家维贝克的论述，任何类似的探索均在于给人提供一种理解、预见和评估技术对社会和文化影响质量的框架。这一方面需要进一步分析特定人工智能技术在人类社会和文化中的调节作用；另一方面，需要发展与这些调节作用的法律关系。在此意义上，《民法典》对于人工智能时代所提出的新兴问题的回应限度仍有待继续观察和发掘。

有学术的思想 有思想的学术 

聚焦中国问题 

秉持人文立场

人文社科学者的平台

欢迎一起“探索与争鸣”

目 录  2020.01 | 2020.02 | 2020.03 | 2020.04 | 2020.05|2020.06|2020.07|2020.08|2020.09|2020.10|2020.11 |2020.12|2019年总目录 热点  区块链|未成年人犯罪|5G|《长安十二时辰》|知识付费|留守儿童|巴黎圣母院大火|《流浪地球》|开放二胎|“佛系青年”  人物  鲁迅|施蛰存|王元化|费孝通|陈旭麓|金庸|哈贝马斯  学者  陈平原|杜维明|葛剑雄|何怀宏|季卫东|罗伯特·帕特南|沈志华|王汎森|乐黛云  观念  天下|祖国|信任|“五四·青年”|人文危机|涂层正义|全球文明  专栏 重识中国与世界|城市与文明|人工智能与未来社会  会议 数字加密货币|江南文化与城市发展创新| “科幻景观·文化· 媒介”学术论坛|大学治理使命| 网络时代知识付费与知识获取| “城市与情感”第二届中国城市问题（上海）论坛青年论坛  青年  第三届全国青年理论创新奖|第二届全国青年理论创新奖|精彩感言|优秀青年学人支持计划·第一期|优秀青年学人支持计划·第二期|青年学人优秀论文支持计划  学术圈  学术写作|高校工作时间|学术晋升机制|假期|救救博士生|“青椒”的焦虑|学术圈的“第三世界”|开题报告怎样写