法律如何应对人工智能（下）｜北大刑法跨学科沙龙系列讲座之五
2017年11月4日晚六点，由北京大学法学院刑事法治研究中心主办的“北大刑法跨学科沙龙系列讲座”第五场在北京大学法学院凯原楼307会议室成功举行。
人工智能是当今社会的热点。从年初“阿法狗”横扫世界顶级棋手，到上个月“阿法元”100比0全胜“阿法狗”，再到近日世界首位机器人公民的诞生，人工智能以迅猛的发展势头不断冲击着人们的日常生活，也为法律带来了全新的挑战。面对这些全新的问题与挑战，法律是否能提供妥当的解决方案？
本次讲座的主题为“法律如何应对人工智能”，由上海交通大学凯原法学院郑戈教授担任主报告人，最高法院司改办规划处处长何帆、京东集团法务部高级总监丁道勤、腾讯研究院法律研究中心副主任蔡雄山、华宇元典公司副总经理黄琳娜担任点评人。中国社会科学院法学研究所助理研究员李强、郑佳、北大英华科技有限公司总经理赵晓海、副总经理何远琼、人民法院出版社总编助理韦钦平出席了本次讲座。讲座由北京大学法学院车浩副教授主持，吸引了百逾名观众到场聆听。
限于篇幅，本次沙龙分两条推送，敬请关注！
接“法律如何应对人工智能（上）”
车浩：
感谢黄琳娜老师用非常简洁有特点的PPT展示了人工智能在法律领域和围棋领域有什么不一样的地方。
今天我们这个沙龙是多元的、多角度、多层次的讨论，从一开始郑戈老师把理论面铺得很宽之后，何帆老师讲了法院系统的应用，接下来两位老师从自己所在机构、公司出发谈人工智能发展情况，最后黄琳娜老师讲了人工智能在法律领域的应用。
我想再回到理论层面，讲一点个人想法，为什么办这个沙龙，选取这个主题？不是为了蹭现在的热点，而是我有实际切身的感受。
2015年9月份，中德学者研讨会在德国召开，开过会之后，德方安排我们去奥迪公司总部，有一个下午的座谈，一下午谈的全部是自动驾驶的奥迪车进入中国市场会有什么样风险或者什么样的刑事法律风险，或者从中国法律学者角度看，将来会有什么样的问题等等。从那次会议后，我经常在想这个问题，下面这三点是我想象中的、完全从部门法学者角度感觉存在实在的法律问题，可以认为是三个阶段。
第一个是自动驾驶问题。刚才几位老师都有谈到，这是比较现实的，而且对法律提出了挑战。随着自动驾驶的发展，人类活动空间逐渐被压缩，以人为中心建立起来的一些概念和规则将来可能会逐渐消失。现在用的法律上概念、理论和规则慢慢可能就没有用了。
最典型的是交通领域，刚才郑戈老师提到德国法和美国法不同的立法，这点我有不同的看法。他认为德国立法是仓促的而美国立法是好的。其实两者有不同的立法背景，美国立法是往下分权的立法，具体怎么处理问题是靠判例，但很多地方判例没有出来，所以美国立法不会在这个问题上设定很多实际规则。
而德国这样的法典化国家一定要提前预想规则和概念指导实践当中出现的问题。被郑戈老师认为是仓促的立法其实有不得已必须要面对的现状，就是蔡雄山老师提到的，在很长一段阶段里，马路上会变为一部分是人、一部分是机器。
自动驾驶汽车和人驾驶汽车在相当一段时间是长期并存。长期并存会带来很大挑战，传统交通领域一定要讲各种交通规则为前提，强调人的注意义务，会根据经验提炼出一些规则。但还有很多地方没有经验化，开车在路上没有明确违反某一条具体规则，不小心撞到一个人，这时候仍然可能被判定违反了注意义务。
但这个注意义务是根据常人标准，由法官判断人与人之间要多小心才算正常，再认定行为人没有达到这个标准，就要承担过失责任。马路上同时跑机器和人的时候，这个判定比较麻烦。奥迪车要跑到中国来自动驾驶，这与德国想象的环境很不一样，德国人特别严谨、特别讲规则，注意义务基本按规则来。
中国的交通领域，各种情况层出不穷、变幻莫测，完全不知道前面的司机要变车的时候心里是怎么想的，稍微不让他一下火气来了，说不定会主动撞后车。我估计德国工程师很难把命令传递给机器，说在这个环境下行驶的注意义务要达到什么标准，因为不了解中国人的国民性，不了解中国人在马路上跑的时候心里的种种情绪。如果自动驾驶真的到中国来，这些注意义务规则的提炼、机器要遵循哪些指令一定是中国人自己来创造和设计的。
慢慢的直到有一天，车不再需要人来驾驶，所有进入道路或者交通领域的全部是机器，那个时候会强制性地提出人不准驾驶，因为人驾驶就出现一个变量，不好判断。如果马路上都是机器，都是人工智能，可以同类判断，而且不会出现交通事故，那时候司机就无所谓了，因为不需要应对紧急情况，所有都是机器按照同类规则统一遵守。
这时候如果有一个人自己开一辆车，想体验驾驶乐趣，对不起，规则不允许。因为这时候人再开车上路，机器不知道怎么判断，怎么与人平行，怎么与人并线，人的想法不是机器所能了解的。所以到那个阶段交通领域的规则会完全颠覆，是针对人工智能机器设置的，人是不能进入这个领域的。这就到了扎克伯格提到的：不是规则，而是算法统治这个领域。
这种情况下，会出现韦伯所说的“意义和乐趣的失落”，人驾驶的乐趣将来会被剥夺，不能随便进入到上面的道路交通领域里，所有上面跑的是机器，时速完全可以提升到100迈以上，也不会出任何问题，效率会大大提升。如果突然上来一个人，怎么应对？时速120、150的时候人就跑不了，反应能力有限，这时候人再进入交通领域是捣乱，所有事故都可能发生，所以人是不能进来的。这种情形下，机器已经进一步切入到人的基本领域。我想等到那一天，围棋乐趣没有了，驾驶的乐趣也不会有了。这是可以想见的，不是很远。
第二层是郑戈老师提到传统情况下考虑怎么处理人工智能，是否要给他设置一个人格。我作为部门法学者从学术研究和立法角度去考虑，通常所有法典有一个隐含的前提，就是这个社会的统治者是理性成年人。低于这个水准的，假设是弱人，主要有两类：儿童和精神病人。我们对这两类人规定特殊的责任能力，一定程度上给以特殊的规则。
将来会不会出来高于理性成年人层面上的超人？机器逐渐进来之后，不得不在法律上为它设置一个专门的位格，这个位格怎么设计？很遥远，但将来一定会走到这一步，如果这个世界还是由人的法律统治，一定会像今天研究儿童、未成年人、精神病人的各种规则一样，研究比我们强的主体。
第三个阶段是人工智能超越人类，也就是蔡雄山老师提到的文科生的想象。不说多少年之后，就算是一千年在人类发展历史上是很短的一瞬间。如果人工智能在精神领域、体力劳动、驾驶等衣食住行方面慢慢取代人时，人的能力会出现用进废退。
我并不乐观地认为人总会控制机器人，今天人的四肢能力不如动物就是因为用进废退，当有一天很多脑部的东西交给机器人做的时候，人类整体上的智力一定会退化的，而且那个时候机器人控制领域会越来越多。当然，最终出现人类毁灭之前，法律肯定会先毁灭，因为不再需要法律。
下面的时间留给几位老师和同学。
同学A：
各位老师好，我想问郑戈老师一个问题。今天的讲座给人一种感觉，未来大多数人会成为人工智能的奴隶，或者说即使不是人工智能统治，也是掌握人工智能的那部分人的奴隶。刚才郑戈老师讲到未来人工智能发展会带来极化社会，这种极化社会法律人应该怎么去应对？因为极化社会马太效应越来越大，只有极少数人能够在这种边际效应中获得极大的回报。绝大多数人会被社会抛弃，比如自动驾驶一出现后，中国几千万的出租车司机就没了，几千万的驾驶车的人都没了，这部分人怎么办。
这种极化社会里，成功者是极少数人占了先天优势的人，他们的竞争能力越来越强，这种情况下如何考虑相对公平的规则环境，让后来人也有机会去竞争？举个不太好的例子，现在互联网除了腾讯、阿里巴巴、百度、京东以外，其他任何小公司想发展，在第一、第二阶段都被会收购，否则就会走向灭亡。现在社会要产生另外一个像阿里巴巴和腾讯这样的巨头，即便过五到十年也不太可能，这种情况下法律人应该如何提供更加公平的环境，让未来那些大多数人更好的发展？
这是我的问题，谢谢。
郑戈：
这个问题其实也是我非常关注的，但是刚才丁道勤老师做了一个澄清，代表业界说没有必要对企业那么担心。实际上我讲的过程中也已经提到了一些想法，实际上我一开始引的贝尔的引言说明了很多问题。
比如工业化时代刚刚开始的时候，农业社会的很多职业显然是被取代掉了。到今天，美国只有不到2%的人从事农业生产，但他们生产的粮食不仅足够全部美国人吃，还使美国成为世界上最大的粮食出口国。从这个例子可以看到，随着技术的发展，有很多现在的工作被取代以另外一种形态出现，但又会开放出很多新机会，比如黄琳娜老师提到会出现一种职业“法律知识工程师”，会使律师现在所从事的一部分工作在以后被取代，但又会创造出新的机会。
但一个更根本的问题，是极化社会的现象，也就是大数据掌控者利用数据优势发展人工智能，从而进入各个行业。这时候就需要政府来介入，至少政府对人工智能的把握不能弱于商业企业，目前的现状是最顶尖的人才都被大企业所雇佣。
在我看来政府应该有所投入，专门去培养自己的人工智能人才，在这个过程中发展出相应的规则。至于规则到底是什么，我在讲座中提到一些，但是这个问题本身是开放的，人的命运把握在自己手里。有很多人追问下一代还有什么出路和有什么工作，但有一个说法是下一代所要担心的永远是上一代，而不是人工智能。人要害怕的还是人自己，传统公平正义标准在人工智能时代仍然是有效的。
同学B：
我想问丁道勤和蔡雄山老师，今天讲法律人工智能产品都是针对诉讼领域，我理解可能是因为裁判文书网上有很多数据。但讲到人工智能，我首先想到的是非诉领域，比如交易、并购等等是很流程化、很程序化的，应该更容易智能化。现在腾讯、京东这种大公司手里有很多交易数据和合同等，那么你们有没有从提升交易效率或规避交易风险等方面考虑过在非诉领域应用人工智能？
丁道勤：
人工智能在非诉领域的应用很少。我补充一下刚才郑戈老师说的，人工智能对就业影响的问题。美国卡车司机协会非常强大，因此自动驾驶法案很难通过。网约车也有进入社会的壁垒。还有车浩老师说的奥迪车的问题，我觉得奥迪自动驾驶进入中国实验都很难。特斯拉无人驾驶的测试也只有香港给了一个机会，大陆没有给。这些产业目前还是高度管制的产业，长远来看有可能打开，但现在很难。
蔡雄山：
刚才丁道勤老师和何帆老师都说了，我的发言不代表所在单位。回答刚才这个同学的问题，你的想法很好，但怎么去实施，这需要很多的研发和很多的投入，要人要钱要时间，至少现在没有特别成熟的应用。现在大家都喜欢提人工智能，我们自己内部会把合同流程化、电子化，但这跟人工智能其实没关系。比如做一个库，把所有版权音乐放在里面，很好查找。为了推销说这是人工智能也可以，但这其实是信息化，让用户更便捷。你的想法很好，但真正成熟去应用，需要很多工程师的辛苦研发和很多设计，确实很有难度。
刚才谈人工智能对就业的影响，中国和美国在政府层面都非常关注这个话题，但目前为止没有看过一个实证研究报告证明人工智能会造成失业还是带来更多的就业机会，所以大多数人都是在臆想，这和算命一样，都是50%的机率，没有意义。必须有数据研究和实证研究。
一般来讲，所有产业和技术的进步带来失业的同时也会带来就业机会，比如共享经济的发展，比如滴滴带来出租车失业，同样也带来了很多人的就业机会。所以面对人工智能带来的影响，教育上需要做的是两个方面，这在中国和美国的国家战略里也都提出了：一方面我们需要对从事简单工作的人进行升级培训，这样才能适应这个时代；另一方面要更新自己本身现有的知识，在法律人工智能出现后，不能固守传统思路。
现在很多律所就认为可以用搜索软件替代人工智能。我们必须要改变传统认识，然后再进行教育、培训。不说人工智能，法律人今天不学习新的法律，明天就会竞争不过后来者，造成失业，这是很正常的事情，长江后浪推前浪。谢谢。
赵晓海：
非常惊讶今天有这么多人来，法律和计算机结合我搞了三十年，我们的北大法宝要追溯到克强总理1983年的一篇文章《法律工作的计算机化》，今天说的很多场景和用途在那里面有描述。我学的是科技法，但我搞了法律科技。
郑戈老师今天的主题也可以分为这两个方面：一个方面是科技法律，包括知识产权、大数据、隐私保护和人工智能的法律问题，仍然属于原来要研究的法律领域问题。另一个方面是法律科技，研究怎么样用科技来促进和辅助法律。现在法务里，做合规、诉讼、合同、风控等的企业都有从信息化转到数据化，从数据化转到智能化的转变。现在还有人想做法律馆的学科馆员，学科馆员是知道东西在哪儿或者知道怎么找，虽然现在北大法宝还有缺陷，但下一步向人工智能发展，这两件事就解决了。
人工智能对法学教育也会有影响。随着人工智能的发展，博学多识的价值和作用会减弱，关键是怎么能够迅速的培养成创新和实践的能力。人工智能能够提供丰富和精准的信息，因此今后律师助理、法官助理的工作会极大的被机器人与人工智能代替。
那人的任务是什么？人需要判断。机器运行出五个成果，人要迅速选择一个。从目前来讲，法律人工智能还不能像AlphaGo一样处理围棋。但当中有什么原因？缺乏数据。现在很多企业、法院主要关注裁判文书数据，但我们是成文法国家，应该关注立法的大数据。AlphaGo Zero通过规则，自我博弈打败了AlphaGo。
现在能不能创造机器人，知道条文后就会办案子，不用参考以前的做法？很难。但数据本身也有偏差，有阶段性。比如研究盗窃罪，修正案八出台之前、之后的数据应该区分，不能混在一块。所以还是要从小数据、中数据做起，最后实现真正的大数据和人工智能。对此的应对一定是理智和积极并存。
这里我用北大法宝宣传语作为结束。北大法宝的宣传语是“爱法律有未来”，现在看来，这个爱可以和AI的I相匹配。只要我们心里爱法律，用人工智能来促进法律工作，合在一起，就一定有未来。
车浩：
我想起十几年在北大上研究生时认识中文系的一个哥们，这个哥们很敏感，去吃饭、剪头被问个人信息时特别警惕，担心自己的个人信息被收集起来去卖钱。这是十七八年前的想法，那时候我们所有人都觉得这是异想，是这个人脑子有问题。刚才我从蔡总口里听到数据的所有权问题时，就想到十几年前这位朋友的担忧，在今天实实在在地成为问题。
包括2015年德国学者讨论自动驾驶大规模应用在马路上，需要用法律去应对时，我们也觉得很遥远。当时一起参会的学者说，奥迪到中国来试点，可能按中国人的习惯在海南岛或者南沙群岛划一个地，允许自动驾驶的奥迪车在这个地方跑一跑。
但2017年，两年之后，德国已经有法律去处理这个问题了。所以很多问题给法律人留的挑战和压力很大，看上去很遥远，但很快会出现到生活中。
同学C：
我接着车浩老师的话，想请问各位老师数据所有权有没有相关立法进程或者法学界、实务界的讨论？我做过非诉的实习，非诉实习生的任务比较简单，一般都会从事法律查询、简单的案例检索和出具法律意见书的工作。在可以预见的未来，这些工作能被人工智能替代，这意味着有经验的律师处理案子的效率会大大提升，会加剧律师行业的两极分化。也就是说，有人工智能辅助以后，高端律师收入更多，低端律师收入更少。数据所有权产生以后，会引发更多的纠纷，这是不是意味着律师有更多饭碗？
蔡雄山：
数据的所有权不是指个人数据，更多是指具有商业价值的非个人数据。现在这方面的规则还不明确，比如有些数据有版权保护，或者是个人数据而有个人数据保护的立法；还有一些数据有商业价值，但是没有版权，也不是个人数据。
目前实践当中已经出现了网站互相抓取信息的问题，不过在国内外仍处于理论探讨阶段。就像我一开始说的，农业时代最重要的是土地和房屋，所以发展出重要的制度是所有权制度；工业时代最重要的是知识产权，所以发展出知识产权制度；信息时代数据就是工业时代的石油和天然气，这个时代最重要的制度就是跟数据相关的制度，这是我自己个人的一个观点。
郑戈：
我觉得数据所有权不是一个很好的出路，世界各国都没有把保护个人数据作为所有权保护来探讨，而是作为人格权、隐私权来认定。蔡总说的有商业价值的数据可能发展出所有权，但现在法律上还没有这方面的发展。现在是用反不正当竞争法的方式来处理数据纠纷问题。
我们不能仅仅为了法律人有没有一个新的赚钱领域来主张新的法律规则，更关键的是在数据共享过程中，根据实践中的问题来看应该遵循什么样的法律规则，这更符合人工智能技术发展方向。仅仅用所有权来解释，在我看来是落后的，是阻碍技术发展的思路。
车浩：
这个同学说到所有权的问题，其实这里的关键不是所有权，所有权概念是解决财产问题和财产属性的。这涉及到传统法律人当中发展出来的很多概念，在现在科技发展情况下不再适用。
我们移植过来很多观念，就像是桌子上有碗、有碟，有菜就放碟子里，有饭就装碗里，是财产就归属于所有权，是人的问题就进人身权，这套概念已经很好了。但现在突然出来一个以前没有见过的东西，桌上的器皿没有办法去盛它。比如机器有没有独特的法律人格，这方面我们以往只解决儿童和精神病人的问题，如果现在大量地出现能力比一般理性成年人更强的主体，就必须要考虑有相关的概念去对应它。这不是假想，而是已经确实出现的问题。
例如，甲公司APP上既有货车司机的数据，又有客户需求的数据。乙公司与甲公司竞争时使用抓取软件，大量的抓取APP界面上对外公开的信息。这样的行为算是刑事犯罪吗？司法机关的思路是不把它当作侵犯财产的行为，而是作为非法侵入计算机系统罪处理。
这个问题从网络游戏时代开始就困扰了学者很多年，也就是盗窃网络游戏里的虚拟财产是否构成财产犯罪的问题。侵入到别人计算机系统以获取信息，这些信息是否要财产化保护？如果不进行财产化保护，当然不涉及所有权的问题。但浙江的案子中，使用者在APP内正常可以刷出来的东西，算不算作一个法律上应该保护的通常理解的计算机系统内部信息，这是很大的问题。
丁道勤：
我们最近也在做数据竞争的研究，主流思路是不给数据赋予所有权。个人拥有个人数据是基本原则，但是网络空间与实体不一样，所以要放弃比较生硬的所有权这个话语，而是通过授权规则来促进数据的流通。大陆也发生了很多案件，最早有大众点评诉爱帮，还有大众点评诉百度。
最近美国也有首例数据不正当案，即HIQ诉LinkedIn抓取。HIQ是一个数据公司，没有任何数据，完全依赖LinkedIn上的数据作为自己的数据产品，这样过了五年。LinkedIn给HIQ他发了律师函后，HIQ公司起诉了LinkedIn。最后法院判了禁止令，判决LinkedIn不能设技术措施阻止HIQ公司去抓取，这在业内引起很大轰动。
又比如大众点评，一审法院认为大众点评对一些用户的评论信息享有知识产权，二审法院又认为整体上不享有，但是考虑企业花费财力、物力收集评论信息，应该享有一些权益。其他软件抓取信息应该控制在合理范围内，遵守相应的规则，不能造成实质性替代。相较于这样的做法，前面美国法院是在程序上发禁止令。由此可以看出怎么塑造数据规则，业界还没有共识。
蔡雄山：
产业发展产生了一些新的问题，这些新问题是用传统概念解决不了的。比如盗窃数据，数据是不是财产。我想说的是是中国产业界的问题意识是非常强的，提出的很多问题是世界级的问题。所以数据的问题，可能在我们现有的法律制度和框架之下解决不了，也没有共识，这是非常值得讨论和研究的一个议题。
同学D：
各位老师好，我有一个粗浅的想法。我觉得人工智能完全代替法律人可能暂时还有困难，但是随着数据积累，受过高等教育的普通人都能很快成为法律专家，比如具体上诉的时候只要检索一下案子的关键词，历年判例都能找出来，也会有相关适用法条。我认为一个受过高等教育的人可以完成人工智能目前难以企及的部分，就是需要社会经验常识完成的那部分内容，剩下内容由机器抓取和大数据支撑，这是不是就不用请律师了？也就是说人人都是法律专家的时代到来了。
郑戈：
我觉得恰恰相反，因为在信息爆炸的时代，搜索一个关键词可以出现非常多的信息，但是没有受过专业训练的人其实无从选择。而且这个例子不是人工智能的问题，是传统的网络、互联网所带来的信息爆炸问题。以前说学文科需要博文强记，但现在不用记太多东西，不需要背那么多法条。分析能力、推理能力在这个时代反而显得更加稀缺了，因为人类面临那么多信息可能更加无所适从，所以不会出现一个普通的受过高等教育的人能替代律师的情形。您刚才所讲的例子反而恰恰说明法律人的存在非常有必要。
赵晓海：
如果出现这种情况先关门的是法学院，通过几年教育教出来只比当事人水平高那么一点点的学生，需要重新找工作的就是我们老师了。
黄琳娜：
我们的这样的法律科技公司会考虑很多刚刚说的问题，因为我们很关注客户群的选择。我们的客户群到底是法律人还是普通的当事人？如果说我要做一个面对普通当事人的产品，让普通当事人借助我的产品能够获得法律知识，这会是完全不一样的商业道路。
做到这一步，是所有法律科技公司梦寐以求的。
为什么？因为法律人市场非常小，中国30万律师顶天了，但我面向普罗大众的话，客户群会巨大扩张，所有法律科技公司都在向这个方向努力。那向这个方向努力的最大障碍是什么？我们始终有一个观点：在一个充满答案的世界里最困难的是提出问题。
一个普通当事人跟法律人的区别在于遇到问题时缺乏提炼问题，也就是把这个问题法律化然后去提问的能力。如果普通人能输入正确关键词，那么他想问的问题很可能会有非常精确的答疑解惑。但他们缺少的恰恰是第一步的总结，法律科技公司想弥补的也就是这一段。
当普通人的陈述没有说出来真正的核心法律意义时，机器如何借助于法律知识图谱把正确的问题匹配和关联在一起？一旦机器完成匹配关联时能够修正人的问题，能帮助一个人优化这个问题，这个时候也就是法律人非常核心的能力被机器替代的时候。但要穿透很多不一样的表述，甚至有可能是错误的表述，准确锁定和指向背后核心的法律问题，这是法律科技企业在研发中会面临的巨大障碍。大家都在努力，为了更广泛的法律人工智能市场。
车浩：
如果担心个人事业，像刚才蔡老师讲的，就要多读书多学习多听人工智能的讲座。
今天晚上的沙龙持续了4个多小时，大家都非常辛苦。再次感谢郑戈老师精彩的演讲，感谢何帆老师、蔡雄山老师、丁道勤老师、黄琳娜老师、赵晓海老师的精彩评论，今晚活动到此结束，谢谢大家。
北大刑法跨学科沙龙系列讲座往期回顾