法律如何应对人工智能——北大刑法跨学科沙龙系列讲座之五成功举行

【作者】文/陈尔彦  图/杜鲁帅（北京大学法学院）

【来源】北京大学法学院官网

2017年11月4日晚六点，由北京大学法学院刑事法治研究中心主办的“北大刑法跨学科沙龙系列讲座”第五场在北京大学法学院凯原楼307会议室成功举行。本次讲座的主题为“法律如何应对人工智能”，由上海交通大学凯原法学院郑戈教授担任主报告人，最高法院司改办规划处处长何帆、京东集团法务部高级总监丁道勤、腾讯研究院法律研究中心副主任蔡雄山、华宇元典公司副总经理黄琳娜担任点评人。中国社会科学院法学研究所助理研究员李强、郑佳、北大英华科技有限公司总经理赵晓海、副总经理何远琼、人民法院出版社总编助理韦钦平出席了本次讲座。讲座由北京大学法学院车浩副教授主持，吸引了百逾名观众到场聆听。

人工智能是当今社会的热点。从年初“阿法狗”横扫世界顶级棋手，到上个月“阿法元”100比0全胜“阿法狗”，再到近日世界首位机器人公民的诞生，人工智能以迅猛的发展势头不断冲击着人们的日常生活，也为法律带来了全新的挑战。面对这些全新的问题与挑战，法律是否能提供妥当的解决方案？这一问题是郑戈教授的报告所集中关注的焦点。

郑戈教授指出，人工智能是现代工业文明发展的必然产物，其发展进程始终与工业文明的发展相伴而行。与人工智能的飞速发展相对照的，是发端于农业社会的、以具有有限理性的人为规制对象的法律体系所天然具有的滞后性。当人工智能极大地强化了人类能力时，现有的法律制度就会呈现出其局限性。郑戈教授以美国的电子取证、诉讼管理、合同起草和审核为例，介绍了人工智能目前在法律职业中的应用，并以此说明，当此类技术被全面推广以后，大量的法律职业将被人工智能取代，人工智能甚至可能导致法律思维和法律应用方式的根本性变革。

但人工智能对法律更根本的冲击在于人工智能会导致极化社会。人工智能使法律滞后于技术和经济的发展，使把握先机的人获得巨大的边际回报。并且，由于数据是人工智能时代最重要的资源，这将导致个人隐私和自由变得非常脆弱。同时，掌握了大量公民数据的企业可以利用这些信息对公民进行隐秘地诱导，由此导致人们都“自愿服从”于某种看不见的力量。最后，一旦人工智能被应用于充满不确定性的金融市场，还可能带来各种灾难性后果。

面对这一系列困局，一种应对思路是为人工智能赋予法律人格，但是，无论机器人以何种方式承担责任，最终的责任承担者都是人，这使得它的法律人格显得毫无必要。

而在自动驾驶汽车领域，人工智能和法律的冲突则更为明显。为此，德国和美国提出了两种截然相反的应对方案：德国侧重于自上而下的规则设计，美国则采取了一种“行业自治+政府把关”的公法模式。此外，第三种规制思路是对算法设计者提出伦理性约束，要求其始终将人的生命放在首位。

在报告的最后，郑戈教授对“法律如何更加‘智能’地应对人工智能”提出了个人看法。首先，法律人士应当学习人工智能知识，使人工智能的基础操作系统符合人类伦理和法律。其次，政府应当加大对人工智能的投入，吸收更多人工智能人才参与立法、行政和司法工作。第三，相比上述德国模式，美国模式是更值得提倡的，即相应的技术标准、安全标准和个人数据保护标准应该是对行业自身发展出的标准与公共利益、个人权利保护原则的综合考量。最后，应当制定相关规则约束算法设计者的行为，倡导和强化算法伦理。

在点评环节，与郑戈教授报告的主题“人工智能与法律的未来”相呼应，何帆处长的评论主要聚焦于“人工智能与法律的现在”，尤其是人工智能目前在法院领域的应用情况。他认为，必须承认的是，尽管人工智能目前的确已开始取代一部分低端的法律职业，但是，囿于人工智能广泛运用的诸多前提要求，人工智能在短期内不可能淘汰法律人。目前，部分法院已经开始以语音识别、图像识别、证据指引、知识图谱为媒介，对人工智能进行初步运用。但这一过程也面临各种制约和障碍，例如，部分法官对人工智能的深度运用仍存疑虑，认为人工智能并未减轻其工作负担；人工智能的深度应用要求打通公检法办案平台，但平台搭建需要强化统筹；人工智能的类案推送功能未来可能导致部分办案人员产生说理懈怠，或者过度依赖机器，等等。

最后，何帆处长指出，法律人应当积极参与到技术研发中，为人工智能的深度应用提供场景、提炼规则，制作各种证据指引和知识图谱，推进机器深度学习。总之，投入多大人工，就会有多大智能。

丁道勤先生指出，人工智能的应用领域是十分广阔的，图像识别和语音识别仅是其中很小的一个分支。人工智能的三个核心要素是场景、数据和算力，但人工智能不一定意味着大数据。丁道勤先生借以鹦鹉模式和乌鸦模式为例，指出相比于只会模仿的鹦鹉，能自主感知、推理、学习、执行的乌鸦式人工智能才是更值得推崇的。

目前，人工智能已经开始被运用于法律领域，但相较商业领域，人工智能的法律实践仍处于起步阶段。人工智能的法律影响主要体现在主体论——即机器人的法律主体资格问题，以及应用论——包括知识产权保护、侵权责任、隐私保护、劳动法和伦理问题等两大方面。

蔡雄山先生指出，人工智能带来了下一波产业浪潮，基础研究领域的进步使全球互联网企业都在积极进行战略转变。从产业界的视角出发，蔡雄山先生认为，人工智能可能带来如下法律问题：其一，个人数据保护问题。在人工智能时代，数据具有巨大商业价值，因此如何对数据进行保护、是否要赋予数据所有权，就是值得思考的。其二，算法歧视问题。例如，当运用大数据对个人征信进行评估时，由于系统设计的主观性和数据本身的不全面性，得出的结论可能不够客观。其三，监管以及由此引发的责任分配问题。一个典型的例子就是自动驾驶汽车发生事故后的归责问题，尤其是在加入机器学习之后，这一困境将更加凸显。其四，人工智能作品的知识产权归属问题。这个问题已在中国出现。其五，机器人的法律人格问题。这既关涉法律，更关涉伦理。面对人工智能带来的这一系列问题，中国和西方现在正站在同一起跑线上。如何在这一特殊的历史阶段作出我们独特的贡献，是当下有必要深入探讨的。

黄琳娜女士以人工智能处理民间借贷案件中的“签名伪造抗辩”所可能遇到的语言识别障碍为例，说明了法律AI为何不能复制围棋的成功。“阿法狗”成功的原因在于围棋边界封闭、规则明晰，这使得机器可以自造数据。但法律世界包罗万象、复杂混沌，常常没有明确的对错之分，且法律实践必须纳入人类知识，法律AI不可能摆脱人类经验积累数据。并且，在法律中存在着诸如“数额较大”与“数额巨大”、“抢劫”与“抢夺”等文本非常相似但法律含义有明确区别的概念，以及诸如“时效”等基于特定目的而由人类拟制的概念和制度，这给机器的无监督学习带来了巨大困难。目前研发中探索出的方式是通过专业法律人积累带标签数据，并且将监督学习与强化学习相结合，使机器先通过较小规模的训练样本得到初步模型，再在法律人的不断反馈下扩张样本规模，通过数据循环最终得到较优的模型。在这个过程中，法律人进行的数据标注是非常重要的。黄琳娜女士认为，人工智能的发展不会导致法律人失业，但可能会使法律人的工作形态发生转化。未来，法律知识工程师可能成为一个新的就业方向。法律知识工程师的工作是制作法律知识图谱，将人类知识转化为机器可以理解的形态。与围棋不同，法律人工智能行业是一个强人工干预的知识驱动行业，因此必须探索一条独特的发展路径。

车浩副教授对报告人和评论人的发言进行了精到总结，并结合在德国奥迪总部参观自动驾驶汽车的经历，介绍了发起本次沙龙的缘起。从部门法学者的视角出发，车浩副教授指出了人工智能可能带来的三个现实的法律问题：

一是自动驾驶问题。自动驾驶汽车的出现将导致以人为中心所建立的各种法律规则和概念体系逐渐消亡。当自动驾驶汽车进入市场后，自动驾驶汽车和非自动驾驶汽车在一定时期内将并存于交通领域，这将给交通领域注意义务的设置和过失责任的认定带来挑战。并且，注意义务规则的提炼和自动驾驶汽车应当遵循的原则必须与当地的实际交通状况相适应，这就意味着自动驾驶领域的法律和技术必须本土化，而不能一味地移植借鉴。而等到自动驾驶全面普及、交通领域完全被人工智能支配的那一天，法律将不得不限制、禁止人的驾驶，以保证人工智能始终能作出正确判断。这时，统治交通领域的将不再是规则，而是算法。人类生活的基本领域将被机器所侵蚀。

二是人工智能的人格问题。这是基于立法与学术研究角度生发出的思考。通常而言，法律规制的对象是社会一般理性成年人；对于达不到这一理性标准的儿童、精神病人等群体，法律会另行设定规则，对其进行特殊保护。但是，当人工智能开始普及，当社会上出现能力高于一般理性成年人的“超人”时，传统的法律制度和规范将捉襟见肘。有必要考虑为这类人设定专门的法律规则。

三是人的退化问题。当人把脑力活动都交给机器，当人类生活的各个领域都被机器所取代，人类的智力必然会因为用进废退而发生退化。到了那时，法律或许也就可有可无。

在互动阶段，赵晓海老师指出，人工智能不仅会影响法律职业，同时还会推动法学教育的转型。比起传授知识，创新、实践能力和判断力的塑造才是未来法学院的主要培养方向。今后法学院应当建立人工智能研究院，以理智和积极的态度应对人工智能以及它带来的新挑战。

随后，现场观众与几位嘉宾就法律人如何应对人工智能带来的极化社会问题、人工智能在非诉领域的应用可能性、最高法院如何将人工智能推广向全国、建立数据所有权制度的可行性、人工智能对律师行业的影响和改造等方面展开了务实且不乏学术启发的讨论。

在四个半小时的精彩讨论后，沙龙在热烈的气氛中圆满拉下帷幕。

“北大刑法跨学科沙龙系列讲座”由北京大学法学院刑事法治研究中心主办，是旨在打破学科界限，扩展刑法学研究视野，呈现其他学科领域的研究成果与思考方法，展示多学科交叉研究的可能性，强调刑法学与其他学科的平等对话，集思想性、批判性、反思性于一体的专题性学术沙龙。