“数据法学和人工智能的法律规制”研讨会实录

   这个季节因你的关注而变得温暖

      2017年12月29日，“中国政法大学法学院大数据和人工智能法律研究中心”成立仪式在中国政法大学海淀校区顺利举行。

      在成立仪式之后举行了暨数据法学和人工智能的法律规制”研讨会，共分两个单元，分为“数据应用与数据权属”和 “人工智能的法律规制”。

第一单元 数据应用与数据权属

请输入标题     bcdef

      北京航空航天大学法学院副院长周学峰教授主持了第一单元的研讨，最高人民法院司改办规划处处长何帆、中国社会科学院副研究员赵磊、中国政法大学法学院教授汪庆华、中国政法大学证据科学研究院博士后周蔚先后作主题发言。京东集团法律研究院执行院长丁道勤和中国社会科学院大学互联网法治研究中心主任刘晓春担任评议人。

请输入标题     abcdefg

主题报告

      最高人民法院司法改革办公室规划处何帆处长就“大数据和司法改革决策”作了主题发言。何帆处长通过人案数据测算、跨行政区划案件测算、类案推送的数据基础三方面事例，分析指出了司法大数据领域存在的三个问题：一是人案数据没有实现很好的融合；二是数据统计口径不适应改革要求；三是海量数据没有实现标签化处理。随后，他建设性地对研究中心的工作提出了三个建议：第一，以问题为导向，多做实干家，别做预言家。第二，精准对接实务需求，研究真问题，少搞假大空。第三，培养跨界人才，连通法律与科技，推动公法与私法、实体法与程序法互动融合发展。

      中国社会科学院法学所赵磊副研究员围绕“大数据时代的商事信用”作了主题报告。赵磊副研究员认为，信用问题是一个外延很大的问题，而信用评级只是其中很小的一个方面。古往今来，交易与信用始终紧密交织。从最初以物易物的交易形式到现代公司形式，其实都是信用的体现。交易主要关注两个方面的问题。分别为交易安全和交易效率。而影响交易效率的因素主要是流通，包括信息流通、货物流通，与货币流通。交易安全则需要考量当事人的履约能力以及违约因素。在大数据时代，上述问题显示了不同的面向。从商法来看，大数据时代，人与人都被联系在一个巨大的无形之网中，每个人都是一个网络节点，既是信息的提供者，又是信息的搜寻者。商户对消费者个人的信用很容易做出判断。这导致大数据时代数据的可视化、行为的可预测性大大提升，从而导致交易安全与交易效率大大提高。而反观《电子商务法》二读草稿，电子商务与传统交易的差别没有很好地体现出来。以及我国正在起草的民法典“合同编”，都只体现了一种古典的美，很难跟上时代的迅速变革。法律对此能做什么？这些都值得我们进一步的思考。

      中心主任、中国政法大学法学院汪庆华教授就“数据权属与数据的全生命周期法律保护”作了主题发言。汪庆华教授首先围绕“数据从何而来”谈起。他认为，数据来源主要包括三个方面。分别为私人平台大数据、工业制造大数据以及政府信息大数据。而政府信息大数据主要包括立法大数据、政务大数据以及司法大数据。并对司法大数据三个方面的来源作了介绍。 “数据向何而去”。也即是大数据的应用问题。大数据主要包括追溯、识别、画像、预测、匹配以及优化等功能。大数据相当于人工智能的燃料，为其提供数据基础。而谈到数据属性问题，在法学界里面通常有两种界定，一种认为是它是财产权，还有人认为它不止是财产，还是一个人格权，是专属于个人的。比如身份证号。另外也有人认为它属于一种新兴权利。在大数据或者人工智能时代，我们要重新思考什么样的概念是一些基础性的法律概念，比如个人数据和个人信息的概念及其之间的关系问题。这是一个前提性的问题。另外，谈到数据保护的问题，必须建立起数据的二元主义保护模式。即个人—信息权，企业—数据权，以及它们二者之间的生产与消费的关系。还有一个就是数据的全生命周期的保护的概念，从数据采集，到数据加工，数据流通以及交易，到最后乃至于数据的销毁，整个数据的全生命周期的立法都处于滞后的状态。对此，要促成全生命周期的数据保护的立法，有两个基本原则必须要加以贯彻。即：第一，必须对个人的隐私侵害最小化；第二，必须实现信息安全保护的最优化。这是非常原则性的东西，要落实到每一个环节，从采集、加工到流通、交易和销毁，生命周期的不同阶段它的重心可能是不完全一样的，我们需要对其进行区别对待。

      中国政法大学证据科学研究院周蔚博士后作了“位置大数据刑事侦查循证推理研究”的主题报告。他主要围绕法律大数据的兴起、人工智能在法律中的应用、位置大数据侦查循证、位置大数据是智慧司法建设的基础设施以及位置大数据的似真度计算理论等五个方面展开发言。并着重介绍了位置大数据侦查循证的相关理论。位置大数据是大数据在刑事侦查中运用的重要方向。而裁判文书、刑事起诉状在互联网的公开，以及位置大数据可视化技术在智慧城市建设中的日益成熟，为位置大数据在侦查循证领域的运用提供了强有力的基础设施支持。然而位置大数据在刑事侦查中的应用，仅仅是智慧司法中的一个应用场景，似真推理理论是大数据运用向人工智能发展的关键。他进一步指出，证据推理是证据学的研究对象，同时也是法律人工智能的研究方向，而利用位置大数据开展循证工作同样是基于证据推理的理论，位置大数据作为大数据的一个子类，位置大数据推理本质上也是大数据推理的一种。与传统证据推理相比较而言，证据推理关注证据的相关性，大数据推理同样也关注相关性，但对于其本质和内涵则有着完全不同的理解。

主题评论

      京东集团法律研究院执行院长丁道勤对第一单元的主题发言作了评议。他认为，人工智能主要包括三个方面，即场景、数据，算法。而人工智能是用海量数据喂养起来的。至于数据权属问题，国内外相关纠纷不断，一些数据竞争案例如美国领英爬虫案，腾讯华为数据争议案，大众点评诉百度案等等层出不穷。至于数据的利用问题，如何界定数据归属？是个人主体所有，还是企业所有？都值得思考。不去关注数据归属问题，又何谈如何去利用的问题？他进一步认为，基础数据可以归个人所有，互联网平台投入劳动并匿名化、脱敏化后的增值数据则可以归平台所有。而在相关的司法案例中，法院是承认互联网平台对于增值信息具有所有权的。比如大众点评网诉百度案，以及大众点评网诉爱帮网案等等。

      中国社会科学院大学互联网法治研究中心执行主任刘晓春对第一单元的主题发言进行评议。刘晓春主任认为数据问题可以从很多角度切入，总体上可以分成数据应用技术和算法开发问题以及和数据相关的法律问题。总体来看，法律问题包括个人信息问题、数据安全（跨境流动）、政府数据共享、企业数据申报以及数据权属等问题。关于数据问题的研究方法，应当做到类型化、具体化，还原到问题背后的基本元素，才能找到真问题。应当从问题出发而非理论体系出发去思考。赵磊老师的演讲就是很好的体现，对大数据应用的商业场景有很深入的了解，并将商业场景还原到交易安全和交易效率这两个基本问题，非常深入和透彻。另外，关于数据权属的必要性问题，实质上的分歧可能没有想象中那么大。对于数据开发的投资可能具有正外部性这一点，大家是可以形成共识的。分歧可能在于具体的保护模式，比如反不正当竞争法的模式还是赋予数据权属的模式。在考虑数据权属模式的时候，除了考虑权属带来的好处，也要考虑制度建构本身的成本，特别是确权和救济的制度成本。

第二单元 人工智能与法律规制

请输入标题     bcdef

      研讨会第二单元“人工智能的法律规制”分别由北京市高级人民法院信息技术处佘贵清处长、上海对外经济贸易大学法学院李文莉教授、中国科学院大学刘朝副教授、北京师范大学法学院吴沈括副教授以及《文化纵横》编辑部执行主编余盛峰进行主题发言。本单元由清华大学法学院鲁楠副教授与中国政法大学证据科学研究院李训虎副教授担任评议人。

请输入标题     abcdefg

主题报告

      北京市高级人民法院信息技术处佘贵清处长就“人工智能和经验法则”这一主题作了发言。佘贵清处长首先认为，当前法院的工作难点主要包括两点，第一，案多人少；第二，裁判尺度统一问题。由于案多人少，法官的经验法则主要体现于裁判文书，很难像以往那样言传身教传授给年轻法官，年轻法官的审案能力因此提升较慢，导致裁判尺度很难统一。这就需要结合人工智能技术来辅助法官办案。而实现人工智能的优势，必须满足云计算（虚拟化与多元数据超算）、管道（互联互通）、大数据（文本挖掘与模式识别）以及场景（内在场景和外在场景）等四个条件。佘贵清处长进而以刑事案件量刑决策为例，展示了通过AI技术提取经验规则的运作模式。这需要满足三个要素，一是案件构成要素（案件特征、案件构成要件）及要素处理（目的是找到关键要素）。然后形成知识组织或知识图谱，即要素及要素之间的关联关系。上述要素的挖掘则要依赖AI文本挖掘与法律人经验来完成。然后通过卡方统计检验，确定案件要素与裁判结果的相关性，达到找到案件重要特征的目的。二是提取规则。利用案例库和决策树模型，将同罪名（或者分级更细）的案件按刑罚类型归纳，可以发现同一刑罚类型对应的不同属性规则集。三是辅助目标案件。输入神经网络模型的新案件构成要素，检索到相应规则，从符合的规则案例库中，找到相应的更加相似的案件，对结果进行分析（正态分析），从而提供断案参考。最后，佘贵清处长总结道，人工智能永远不是万能。AI技术挑战、AI的负面清单与法律职业具有的创造性特点，决定了AI永远是辅助。

      上海对外经济贸易大学法学院李文莉教授围绕“智能投顾的法律规制”作了主题发言。李文莉教授指出，智能投顾在国外相当成熟，而且具有相应的法律规制。针对人工智能与金融相结合的趋势，我们法律人思考的问题出发点应该在哪里？其实简单来说，就是法律规制必须符合金融监管的规律。未来属于人机共存的社会，人工智能对金融监管会带来哪些风险呢？法律如何应对？都可以作为思考的起点。李文莉教授介绍道，智能投顾与一般的投资顾问不同，它是一种全权委托的注册投资顾问。并指出投资顾问的外延必须全部包括客户档案创建、资产配置、投资组合再平衡等七项功能，才能被称为智能投顾。至于智能投顾领域的风险，首先主要是法律风险，即《证券法》第171条第1款规定，投资顾问无法进行全权委托。因此，解除法律障碍是第一要务。其次，智能投顾的跨界性及其监管。智能投顾带来资金量的大大增加，导致分层监管难度加大。最后，算法监管问题。其中主要是技术黑箱和第三方依赖，特别是第三方依赖如何监管的问题。第三方技术公司，可以同时为多家投资顾问服务，这就会导致利益冲突，其实这也应该纳入监管。至于针对智能投顾的监管问题，可以从对平台的监管和投资者资格适当性的问题进行思考。而要做到对平台的监管，即智能投顾的准入监管。特别是第三方依赖如何纳入准入监管范畴之内。利益冲突的现实要求法律对信义义务的规定必须更加细致。针对技术黑箱，可以规定信息披露义务。还有个监管科技的问题，则需要借助科技公司的监管，但是这又可能导致监管捕获的问题，所以应该同时思考如何加强对科技公司的监管。

      中国科学院大学刘朝副教授以“远虑和近忧：人工智能的法律应对”为主题作了发言。刘朝副教授首先展示了全球无人驾驶汽车交通事故的相关数据，并以民事主体与民事责任的视角展开介绍。刘朝副教授提出了以下几点思考。我国与发达国家的人工智能是否处于同一起跑线？人工智能时代在技术上高度趋同，中国的法律规制在这方面具有何种个性？哪些才是真正的人工智能的问题，到底是远虑抑或近忧？基于此，法律是有为还是无为？至于技术发展的问题，法律有时并不是障碍，技术自身的障碍往往更大。比较中美立法可以发现，美国处于领先地位。但我们必须考虑到中国无人驾驶汽车立法的社会基础。中国的路权争夺非常激烈，导致自动驾驶问题重重。而中国的侵权法归责原则、司法鉴定、行政调解以及社会保险等领域的配套制度也无法适应相关立法。从这个意义上来讲，无人驾驶立法时机其实是不够充分的。所以，必须重视中国无人驾驶问题的独特个性。刘朝副教授最后强调，无人驾驶，功夫需要花在人工智能之外。我们的近忧不是法律问题，而是技术和其他配套制度。法律宜静不宜动，首先应该把技术问题解决好，再进行相关法律的制定。

      北京师范大学法学院吴沈括副教授围绕“人工智能安全的法律治理”为主题作了发言。吴沈括副教授从人工智能的法律治理现状谈起。他认为，人工智能带来的安全问题，主要包括safety （人身安全）和security（网络安全）两方面的问题。我们需要更加关注网络安全的问题。人工智能将会带来系统安全、算法透明度与可解释性以及数据使用与隐私保护等三个方面的网络安全风险。就系统安全层面而言，人工智能的系统安全新风险主要存在于人工智能硬件应用场景中。针对此种系统安全风险的新特点，需要做到以下两点。一、人工智能硬件应用与《网络安全法》 的适配与融合问题。二、业务链责任承担问题。其中又包括以下四点具体要求：网络运营者承担责任——基础方案；核心厂商承担责任——分担救济；供应链厂商承担责任——权责平衡；引入多维责任分配方案。最后，吴沈括副教授总结道，就人工智能法治要点及趋势而言，可以归纳出三点初步的结论。一、立法与技术发展要相适应，谨防抑制市场活力。二、以具体应用为基础的人工智能法律治理将引导监管走向碎片化与多元化。三、在人工智能时代，软性法律的适用将成为网络安全法律治理的主流方式，而传统的自上而下、以归纳思维为主的法律治理思路已逐渐无法胜任人工智能时代的监管重任。

      《文化纵横》编辑部执行主编余盛峰就“从老鼠审判到人工智能之法”为题作了主题发言。他认为，法律所处的宏观环境正在发生变化。以前的法律面对的是两个世界，即物理世界和人类世界。而现在伴随人工智能、物联网、区块链、虚拟现实等技术的发展，正在演化出一个第三世界，即全新的人工世界。它的体量甚至要比第一世界和第二世界加起来要更为庞大。所以法律要开始面对如何规制一个新的人工世界的问题。这实际也是今天的案多人少、法律大爆炸很重要的原因。法律环境变化。以人工智能为代表的各类科技正在成为一个个封闭的系统。AI背后的代码、算法，都变成为一个个黑箱。法律不能识别这个黑箱内部的运行机制。所以情况正在发生变化，是法律现在面对一个比它更黑暗、更庞大的城堡 。现在是法律开始觉得无所适从。面对上述环境变化，法律的功能正在发生蜕变。首先是从不敢到不能。所谓不能，比如通过法律代码化，然后写入各类智能基础设施限制个人的违法行为。下一步，是从不能到不用。区块链智能合约，大量的交易自动执行完成，不需要第三方的法律机构来保证合同履行。所以，从不敢到不能到不用，法律的功能正在发生变化。基于此，余盛峰主编认为，需要重新审视法律的定义，思考代代码/算法和法律的边界问题。法律的运行机制发生变化。传统法律是用普遍的一致的形式化的法律规范来适用于事实。而法律事实都是高度类型化的。现在伴随人工智能、大数据这些技术发展，法律的运行机制就开始从所谓的普遍主义到个案主义，从形式主义到真正的实用主义转变。以前法律是韦伯所言的自动售货机，现在则是变形金刚。所以，法律的方法论与运行机制都会发生变化。法律纠纷处理结果会出现两个相互矛盾的结果。一方面，法律处理结果会变得过于大，倾向于用相关性的原则，大而化之地自动批量处理，或者大量采用保险机制来规避法律的运用。另一个矛盾的结果是法律处理变得过于特殊化，不再是普遍适用。这对传统的法律平等适用原则会带来很大的冲击。余盛峰主编总结道，我们以前熟悉的法律，是一个高度中心化的系统，但是今天社会已经越来越是一个去中心化的分布式的社会。用传统的高度中心化的法律去规制一个越来越去中心化的社会，其中的矛盾、冲突问题只会越来越多。所以，法学理论和实践必须做出范式性的变化。而这是由法律演化的内在逻辑决定，不是由法学界的主观意志来决定的。

主题评论

      清华大学法学院鲁楠副教授对第二单元的主题发言进行了简要评议。鲁楠副教授主要从以下五个方面进行了点评。第一，市场与家庭。当下关于互联网等新技术的研究，多从市场角度切入，几乎未见从人机互动的伦理角度的讨论，反映了目前新技术研究的缺陷。第二，公法与私法。多数研究从私法角度而忽略了公法的视角，即使是公法讨论，也只是为私法保驾护航。第三，国内法与国际法。目前国际法的学者基本缺席该领域的讨论。第四，自由与安全。多数讨论从安全的问题切入，但忽视了对个人自由权利的关照。第五，理论与实践。目前的新技术方面的研究，基础理论方面几乎缺位。人工智能领域，西方学术界早在几十年前就开始了理论储备。而中国则相反，实践走在理论的前面，基础理论跟不上时代的步伐，这又如何与西方竞争呢？

      中国政法大学证据科学研究院李训虎副教授对第二单元的主题报告进行了评议。李训虎副教授认为，利用大数据与人工智能来统一证据标准可能性不大。首先，算法作为技术黑箱往往成为案件争议的焦点。其次，尽管其他行业大数据比较全面，但在行政司法领域，数据是封闭的。行政诉讼裁判文书上网率并不高，是经过人工筛选后的裁判文书，而非全部原始文书。最后，就应用场景而言，美国主要应用于被追诉人的风险程度评估，包括在保释、量刑、假释等程序中。但受限于美国宪法的正当程序原则，没有应用于事实认定方面。目前，美国出现了将传统的正当程序理念应用于新技术领域的趋势，提出要把人本身放在人工智能的中心。亦即以人为本。换言之，无论何种人工智能，应用到何种场景，都要做到对人的尊重。

      会议闭幕式由中心主任、中国政法大学法学院汪庆华教授主持，中国政法大学法学院院长焦洪昌教授总结发言。