如何为人工智能立法？
文章来源：
本文原载于《检察风云》2018年第7期（总第555期），2018年4月1日出版，第16-17页。
投稿和合作请联系邮箱：
1922273801@qq.com
文章导读
人工智能是一种正在给人类社会带来全方位的深刻变革的技术，正像所有的技术一样，它服务于特定的人类目的。但机器学习（尤其是无监督学习）结果的不可控性又使得人工智能不同于以往的技术，其中蕴涵着更大的风险和不确定性。法律应当如何规制人工智能，从而在鼓励创新的同时保护人类社会的基本价值并将风险保持在可控范围之内？这是一个已经引起广泛讨论和立法回应的问题。
作者简介
郑戈，1972年生，香港大学法学院助理教授，博士生导师。四川省自贡市人，法学博士，香港大学法律学院副教授。曾任职于四川省自贡市公安局和北京大学法学院。致力于法理学、宪法、行政法和刑事司法研究。
人工智能是一种正在给人类社会带来全方位的深刻变革的技术，正像所有的技术一样，它服务于特定的人类目的。但机器学习（尤其是无监督学习）结果的不可控性又使得人工智能不同于以往的技术，其中蕴涵着更大的风险和不确定性。法律应当如何规制人工智能，从而在鼓励创新的同时保护人类社会的基本价值并将风险保持在可控范围之内？这是一个已经引起广泛讨论和立法回应的问题。
必须指出的是，由于人工智能是一种通用技术，可以应用到从农业、制造业到法律、医疗、金融服务业的各种人类活动场景之中，而它本身正处在高速发展阶段，因此，制定一部总括性的“人工智能法”在目前这个阶段时机尚不成熟。实际上，是否有必要制定这样一种法律也是一个问题。最接近于这样一种一般性人工智能法的立法尝试是2016年欧洲议会向欧盟委员会提出的“机器人法”立法建议报告，但这份报告所建议的立法只针对有形的“智能机器”，包括机器人、智能家电和自动驾驶汽车等等。而对于人工智能的“智能”所在，也就是算法，其中并未提出相关的规则。其中所体现的思路与规制食品安全、环境和产品责任的既有思路并无二致。比如，首先是设立一个专门的规制机构，这份报告提议设立一个“欧洲机器人和人工智能局”来统筹该领域的规则、标准制定和日常行政管理。
其次，鉴于人工智能可能在无人监管的情况做出“决策“并自主执行这样的”决策“，该报告在第50（f）项建议：“从长远来看要创设机器人的特殊法律地位，以确保至少最复杂的自动化机器人可以被确认为享有电子人（electronic persons）的法律地位，有责任弥补自己所造成的任何损害，并且可能在机器人作出自主决策或以其他方式与第三人独立交往的案件中适用电子人格（electronic personality）。”与此相类似，沙特阿拉伯在2017年授予一家香港公司生产的机器人索菲亚以公民身份并向“她”发放了护照。其中的作秀色彩多于实际意义。
实际上，在如何落实这种“法律人格”所必然带来的民事行为能力和责任能力时，欧洲议会报告并没有提出具体的方案。如果机器人对人造成了损害，无论是适用罗马法中的“缴出赔偿”（noxoe deditio）原则（即把机器人交给受害者或其家属处置），还是让机器人支付赔偿金或坐牢，最终承担责任的始终是机器人的“主人”，因为机器人不可能有独立的收入，限制它的“自由”则等于剥夺了其“主人”的财产权。由此可见，机器人无论以何种方式承担责任，最终的责任承担者都是人，这使得它的“法律人格”显得多余和毫无必要。实际上，这份报告在具体的规则设计部分也自动放弃了适用机器人“法律人格”的努力，比如，它提议制造商为他们的机器人购买强制性保险。此外，还要设立专门的基金来补充保险机制，主要的出资人也是制造商、经销商和其他利益相关者。这套保险机制的覆盖范围不仅是机器人，还包括机器管家、无人驾驶汽车和无人机等等。
更审慎、务实的立法尝试是针对人工智能的具体应用场景进行立法。目前，这样的立法主要针对的是自动驾驶。2017年5月，德国联邦议会和参议院通过了一部法案，对《道路交通法》进行了修改。它允许高度自动化和完全自动化的汽车作为交通工具上路。但为了符合1968年《维也纳道路交通公约》第八条“每一部车辆在行驶时都必须有驾驶员在位”的规定，它没有允许自动驾驶汽车变成“无人驾驶”汽车。它规定，当自动驾驶系统启动之后，司机可以转移注意力，比如去读书或上网，但她必须保持足够的警觉，以便在系统发出请求时恢复人工控制。它还要求高度或完全自动化汽车安装纪录驾驶过程的黑匣子，在没有卷入交通事故的情况下，黑匣子信息必须保存半年。如果自动驾驶模式正在运行过程中发生了事故，责任在于汽车制造商。但如果自动驾驶系统已经发出了请求人工控制的信号，责任便转移到了汽车上的驾驶人员身上。
德国的这部法律受到业界的猛烈批评。有人指出，在新法下，司机不知道该怎样做才能避免法律责任，自动驾驶汽车无法实现真正的“无人驾驶”，也就是车上只有乘客而没有驾驶员，阻碍了自动驾驶汽车的商业化发展。试想，如果一个花比传统汽车贵的多的价钱购买了自动驾驶汽车，却时刻必须保持警觉，而且要在自动驾驶系统控制汽车操作一段时间后瞬间介入，应付紧急情况，这实际上对驾驶员提出了更高的要求。新法把自动驾驶汽车造成人身伤亡的最高赔偿额度提高到1000万欧元，比原来的最高赔偿额度增加了一倍。虽然这笔赔偿在多数情况下将由保险公司支付，但保险公司无疑会提高保费，这也增加了自动驾驶汽车车主的负担。此外，黑匣子信息保留半年的规定也增加了个人数据和隐私被滥用的风险，因为自动驾驶汽车上遍布的传感器和摄像头会记录下非常多的个人私密信息。
与德国立法模式相对照，2017年9月在美国众议院通过的《自动驾驶法》（Self Drive Act）则采取了一种完全不同的思路。它没有改变现有的道路交通规则和与事故责任相关的侵权法规则，而是用宪法和行政法的思维方式划分了联邦与各州之间在规制自动驾驶汽车方面的责任，明确了交通部在确立自动驾驶汽车硬件安全标准、网络安全标准、公众知情标准等方面的具体义务和履行时间表。其中第12条强化了隐私权保护，要求制造商和经销商只有在提出了满足一系列具体要求的“隐私权保障计划”的前提下才可以供应、销售或进口自动驾驶汽车。这些要求旨在确保自动驾驶汽车的车主和使用者对自己的个人数据和隐私有充分的控制能力，不至于在自己不知情的情况下任由制造商或程序设计者使用自己的个人数据。
我国目前也正在进行自动驾驶车辆测试方面的管理规范。2017年9月，工业和信息化部开始就《智能网联汽车公共道路适应性验证管理规范（试行）》初稿组织业界和专家讨论。2017年12月，北京市交通委、公安交管局和经济信息化委三部门联合发布了《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》和《北京市自动驾驶车辆道路测试管理实施细则（试行）》，设立了北京市自动驾驶测试的管理机构，即北京市自动驾驶测试管理联席工作小组，明确了测试主体、测试车辆和测试驾驶员应当具备的条件，并且规定了测试申请程序和违规操作责任。
与此同时，在我国的许多地方，自动驾驶车辆正在无法可依的情况下上路，有时甚至是高调上路。比如，2017年12月2日，四辆装备着华为开发的“阿尔法巴－智能驾驶公交系统”的无人驾驶公交车在深圳福田保税区正式上路，这是世界首例在开放道路上行驶的无人驾驶公交车。这并不是深圳独有的现象。由于业界普遍预测自动驾驶汽车是未来汽车业的总体趋势，能够带来万亿级的利润，所以一国之内各个地方之间以及各国之间有时会以宽松的法律环境（即允许自动驾驶汽车上路而又不去立法进行规制）来吸引相关投资或测试。比较明显的例子包括美国的亚利桑那州和英国。2016年5月18日，英国女王伊丽莎白二世在英国议会年度开幕大典上发表演说：“议会将通过新的立法来提升英国的竞争力，使英国成为数字经济时代的世界领导者。我的大臣们将确保英国在新式交通科技、包括自动驾驶汽车和电动汽车方面处在世界前沿。”在此之前，英国交通部研究了自动驾驶汽车在英国上路可能遇到的法律障碍，并在其报告《通往无人驾驶汽车之路》上宣称：英国法律中不存在禁止自动驾驶汽车上路的因素；英国没有签署《维也纳道路交通公约》，因此不存在直接让自动化程度最高的无人驾驶汽车上路的法律障碍。
我国在人工智能方面的总体政策在国务院于2017年7月发布的《新一代人工智能发展规划》中得到了系统表述。该文件一开始便强调制定规划的目的在于“抢抓人工智能发展的重大战略机遇，构筑我国人工智能发展的先发优势”，明确了发展为主、控制潜在风险为辅的战略布局。在“分三步走”的循序渐进实现具体战略目标的安排中，到2020年为止的第一步主要侧重于理论和技术发展、确保人工智能产业竞争力进入国际第一方阵和人才培养，而对人工智能伦理规范和政策法规的要求只是在部分领域初步建立。在2021－2025年的第二阶段，⼈⼯智能法律法规、伦理规范和政策才将有体系化的建构，但这个体系也只是“初步建立”。在2026－2030年的第三阶段，方才可能“建成更加完善的⼈⼯智能法律法规、伦理规范和政策体系”。由此可见，在目前这个阶段，我国不会针对人工智能进行体系化的立法，试图为技术发展留下足够广阔的想象力空间。只有在自动驾驶等技术发展已经相对成熟、产品亟待进入市场的应用领域，才会尝试进行地方性、试验性的立法。
文章内容纯属作者个人观点，不代表平台观点。感谢作者辛苦付出与创作，版权归属原作者，如有版权问题欢迎联系。
投稿&合作：1922273801@qq.com
微信号: zhonghuahaoxuezhe
推荐关注
中国好学者
40万关注者的不二选择
华家学园
百家争鸣，华家领导
以华家意识形态引领中华民族伟大复兴
实效主义
不管黑猫白猫
捉到老鼠就是好猫
不管外国猫中国猫
好看听话就是好猫
主张“科学求真，制度求效”，每日推送一篇法律经济学领域经典通俗文章。
感谢您抽出
中华好学者网站已经上线
点击【阅读原文】进入中华好学者网站
↓↓↓