【智能与法】彭文华：自动驾驶车辆犯罪中的注意义务
B D A I L C
欢 迎 关 注
对于制造商、程序员等不具体跟车的实体和个人而言，其注意义务具有间接性；而跟随车辆的辅助操作者，其注意义务则具有不完全性。自动驾驶车辆犯罪的注意义务根据包括三类：一般交通运输管理法规；有关自动驾驶车辆的特别交通运输管理法规；责任主体的承诺与规范。自动驾驶车辆无法预测、无法解释的危险，阻却注意义务。自动驾驶车辆采取了特定的预警防范措施等，即使在特定情形下造成事故，也符合危险分配的法理，阻却注意义务。在高冲突环境等特定场景中，应当限制信赖原则适用。自动驾驶车辆通常涉及多个主体，注意义务的竞合较为普遍。
Claude Monet · Railway Bridge at Argenteuil
自动驾驶车辆犯罪中的注意义务
文 / 苏州大学王健法学院教授、博士生导师
彭文华
1
引言
美国国家交通安全管理局按自动化水平不同，将车辆的自动化水平分为五个等级：一是没有自动化(0级)，车辆完全由司机掌控；二是特定功能自动化（1级），司机可全面控制车辆，但车辆能完成特定自动化控制，如巡航控制等；三是组合功能自动化（2级），涉及两个或多个主要功能自动化，如自适应巡航控制和自动车道感应等，但司机仍然需要监视并随时恢复完全控制；四是高度自动化（3级），在特定条件下车辆实现全自动控制，司机可在过渡期恢复控制；五是完全自动化（4级），车辆完全自主行驶，无需“司机”。[1]其中，第3级与第2级的不同在于，车辆自动驾驶无需司机主动监控。第0-2级依然是以人类掌控为主的自动化，亦即传统车辆；第3级、第4级才是以车辆自主行驶为主的自动化，即本文所论及的自动驾驶车辆。不过，高度自动化的自动驾驶车辆上一般配有辅助操作者，完全自动化的自动驾驶车辆则无辅助操作者。
我国自动驾驶车辆技术及产业发展起步相对较晚，但发展却极为迅速，大有后来者居上的态势。2016年12月19日，中国首列无人驾驶地铁在香港南港岛线正式开通运行。2017年11月16日，百度宣布将于2018年7月底与金龙汽车率先实现L4级无人驾驶汽车的小规模量产。2017年12月2日，深圳市首批智能公交车试运营。2017年12月15日，北京市发布了《北京市关于加快推进自动驾驶车辆道路测试有关工作的指导意见（试行）》等两个规范自动驾驶车辆进行道路测的法律文件。2017年12月30日，中国大陆首条无人驾驶运行线路——北京轨道交通燕房线正式开通运营。2018年1月初，北京市顺义区无人驾驶试运营基地在奥林匹克水上公园启动。2018年2月，浙江宣布将建设首条超级高速公路，全面支持自动驾驶。2018年3月，全国首批3张智能网联汽车开放道路测试号牌在上海发放。
较之传统车辆，自动驾驶车辆[2]要安全得多，但也并非绝对。[3]正因自动驾驶车辆会造成损害或危险，在自动驾驶车辆技术及产业飞速发展的背景下，制定相关立法明确权责关系无疑迫在眉睫。“在机器人制造之前法律措施必须生效，否则灾难发生后可能没有法律制度适用。”[4]与此同时，加强对人工智能法律问题的研究，也就具有重要的理论价值与现实意义。“应该为这些公民提供讨论这些新技术影响的机会，并考虑现行法律能否充分维护他们在面对机器人革命时所坚持的原则。这样的讨论应该提前发生，而不是在无人驾驶交通工具融入日常生活后再作广泛介绍。”[5]过失犯罪是自动驾驶车辆犯罪最主要的犯罪形态，本文拟对自动驾驶车辆过失犯罪的注意义务加以分析、研究，以期抛砖引玉。
2
自动驾驶车辆犯罪之注意义务的性质
对于自动驾驶车辆犯罪而言，过失之注意义务有别于传统车辆。传统车辆发生事故，主要根据驾驶员或者第三人怠于履行注意义务来分摊责任，汽车制造商等基本上对交通事故不负法律责任。由于自动驾驶车辆无需专门的驾驶员（有的只有辅助操作者），且自动驾驶车辆亦非纯粹、被动的工具，故而直接套用传统刑法理论来判断注意义务，有时会觉得难以着手。因此，认定自动驾驶车辆犯罪，首先需要弄清其中注意义务的性质是什么，才能更好地确定有无违背注意义务而构成犯罪。由于过失犯罪的注意义务是责任主体的注意义务，因而确定自动驾驶车辆犯罪的注意义务，需要联系相关责任主体来判断。
在现有刑法框架[6]下，关于自动驾驶车辆犯罪的责任主体，存在较大的争议。概括地说，主要有以下不同观点：
一是制造商。该观点认为，允许人类经营者完全依靠技术来遵循一个全面的规则体系是前所未有的，没有任何其他技术能够接管这样一个复杂的过程，故而最适当的称谓是产品罪责。[7]以产品罪责为依据，自动驾驶车辆制造商等需要保证自动驾驶车辆能为车主做到，每天保证他们的基本安全和履行法律职能。“在这样的保证下，制造商与司机之间建立了一种近乎信任的关系，这种关系远远超过了人类与其他产品的关系；就像医生或律师一样，无人驾驶车辆保证了人类操作者的安全，并遵守法律。”[8]否则，制造商应对人工智能犯罪承担刑事责任。“如果无人驾驶车辆的购买者在市场购买该产品，并承诺该技术将遵循交通法规，那么期望无人驾驶车辆能做到这一点是合理的。如果车辆无法避免一辆停止的急救车和人类经营者被开罚单，那么经营者严重依赖的是失败的技术。因此，要求制造商而不是相当不谨慎的人，对违法行为承担法律责任是合理的。”[9]
二是准操作者。该观点认为，被视为操作车辆的准操作者应对自动驾驶汽车犯罪承担刑事责任。“有关危险的有故障自动驾驶车辆的一种显著可能性是，法人制造商或相关实体，自我驱动的硬件和软件的提供商和服务商，可能会被视为‘操作车辆的人’而构成犯罪。”[10]
三是辅助操作者。该观点将自动驾驶车辆上的辅助操作者认定为责任主体。华盛顿州的立法建议稿曾规定：“有执照的司机以非自动驾驶车辆司机同样的方式，对自动驾驶车辆的交通违法行为和犯罪行为承担法律责任。”[11]
四是所有可能的疏忽者。即所有相关主体如果存在疏忽导致自动驾驶车辆犯罪，均应承担刑事责任。“假设机器人的制造商和程序员被要求制造它们时遵循一定的规则，那么机器人被卷入的最有可能的情况，是因不正确的制造或者编程而起诉制造商或程序员，或起诉辅助犯罪的机器人的所有人或经营者。”[12]
第一种观点以产品罪责为基础将罪责归于制造商，意味着制造商承担一切注意义务，是存在问题的。首先，要求制造商承担一切注意义务违背责任原理，因为他们有时无法预见自动驾驶车辆实施何种“行为”。例如，人工智能的学习算法与最佳决策模式，并不受计算机程序的控制。“与传统意义上的软件编码不同的是，机器学习起初看起来更像是接受训练而不是编程。当软件与外界交互时，它会寻求哪一种行动会产生最有成效的结果。然后，它将最有成效的行动付诸于未来的行动中。”[13]这也是AlphaGo为什么能以压倒性优势战胜世界围棋冠军李世石、柯洁的根本原因。既然制造商连自动驾驶车辆如何行动都无法预测，又何来的注意义务及责任呢？其次，如果将产品缺陷一概归于制造商也不客观。因为，自动驾驶车辆运行关涉硬件供应商、程序员，所有人和使用者等多主体，他们都有懈怠并造成事故的可能。再次，即使存在产品缺陷问题，也不能完全归责于制造商。任何新技术的开发都蕴含一定的技术风险，将之一概归于制造商会严重妨碍技术的创新与发展。“将大量实质的责任施加于自动技术和汽车的制造商是目光短浅的，因为它会阻碍自动汽车及时进入市场。因此，虽然自动汽车技术正在迅速发展并努力满足大众需求，但责任问题将决定自主汽车进入市场的速度。”[14]
第二种观点将注意义务赋予制造商、相关实体以及自我驱动的硬件和软件的提供商和服务商等“操作车辆的人”，也存在问题。因为，这些主体有时根本就没有参与自动驾驶车辆的操作。特别是自动驾驶车辆有了新的所有者、使用者后，要求他们继续对自动驾驶车辆犯罪履行完全的注意义务更说不过去。
第三种观点认为辅助操作者承当注意义务，有其合理之处。目前，自动驾驶车辆运营尚处于初始阶段。虽然是自动驾驶，但车上通常要求配备辅助操作者，允许车辆在辅助操作者按“出发”后自动运行。[15]如美国内华达州、华盛顿特区等法律均明确规定自动驾驶车辆需要配备获得证照的辅助操作者。该观点的问题在于，如果要求他们承担刑事责任，意味着车辆行驶期间要担负全部注意义务，这显然是不合理的。这种针对传统车辆的驾驶员的要求，不能完全照搬至自动驾驶车辆的辅助操作者。因为，操作者既然知道车辆主要依靠自治行驶，就有理由相信车辆的人工智能及其自主驾驶功能。无人驾驶车辆技术也会承诺司机在工作中可以放松，如阅读书籍、看电影或享受咖啡，同时他们的无人驾驶车辆能避开障碍物，遵守速度限制和其他法律规定，并保证人类操作者和乘客的安全。[16]在这样的前提下，要求辅助操作者承担完全的注意义务是非常勉强的。
第四种观点在不同的主体之间分配注意义务和责任，相对来说更为合理。这是因为，自动驾驶车辆的不同组件通常由不同主体制造，他们各自都有可能因为没有履行注意义务而导致产品缺陷，或者自动驾驶车辆生产、销售、运营的不同阶段，不同主体没有合理履行监督、护理等注意义务，导致车辆出现问题或者有问题而没有及时解决，相关主体自然需要对后果承担责任。但是，在不同的主体之间分配注意义务和责任，前提条件是必须明确不同主体的义务来源，确定注意义务的范畴和界限，才能合理归责。否则，就会混淆技术创新风险、意外事故等与犯罪的界限，背离责任原理，不利于保障人权。
上述前三种观点的共同问题，在于秉承传统过失理论，试图在制造商、程序员、辅助驾驶员等相关责任主体中寻求类似于传统车辆的驾驶员那样的替代者，然后根据传统过失理论来确定其注意和责任，忽视了自动驾驶车辆根本不存在传统车辆的驾驶员之实质，存在问题在所难免。第四种观点注意到不同主体均可担负注意义务并成为责任主体，有其合理性。缺点是较为笼统、模糊，缺乏具体分析，留下遗憾。另外，上述观点均对自动驾驶车辆犯罪中的注意义务所具有的独特性质和特征有所忽视，因而存在局限在所难免。
关于过失犯罪的注意义务，向来有结果预见义务和结果回避义务之别，由此形成旧过失论与新过失论的对立。旧过失论采用结果无价值论，主张将结果预见义务作为过失犯罪的注意义务。“从侵害法益的结果出发，意图把将结果归属于行为的因果关系以及对结果的主观预见可能性作为概念工具，分析过失犯的构造。”[17]新过失论采用行为无价值论，主张将结果避免义务作为过失犯罪的注意义务。“过失的本体并不在于预见可能性，而在于违反了结果回避义务。也就是，所谓过失，是指对于社会生活中一般要求的结果回避行为即基准行为的懈怠。为此，过失犯由并未实施法律所要求的基准行为的不作为犯而构成。”[18]新过失论乃学界通说。受自动驾驶车辆犯罪的特殊性及相关责任主体的复杂性所决定，无论是根据旧过失论及新过失论确定其注意义务，均面临新的挑战。
根据旧过失论，自动驾驶车辆的制造商、软件和硬件的供应商或者服务商、程序员、所有者以及使用者等，只要对其造成危害结果具有主观上的预见可能性，就可以认定成立过失犯。问题在于，使用自动驾驶车辆等人工智能，本身就属于危险行为。例如，2016年5月7日，美国海军老兵约书亚•布朗开乘坐一辆特拉斯自动驾驶汽车，在佛罗里达州高速公路上撞上了一辆横穿马路的18轮白色拖车，不幸惨死。[19]诸如此类问题如果构成犯罪需要归责的话，只能归于制造商、软件和硬件的供应商或者服务商、程序员以及使用者等。如果坚持结果预见义务，对于自动驾驶汽车而言意味着不允许开发、制造、使用自动驾驶车辆，这是不可取的。因此，采用结果预见义务对自动驾驶车辆犯罪归责，是不合理的。
根据新过失论，即便自动驾驶车辆的制造商、软件和硬件的供应商或者服务商、程序员、所有者以及使用者等需要承担结果避免义务，与传统刑法理论也存在明显不同。传统刑法理论中的结果避免义务是由行为人履行的，行为人具有履行结果避免义务的即时性与当场性。然而，自动驾驶车辆过失犯罪的结果避免义务，除了跟车的辅助操作者外，均非在“行为”现场，难以亲身履行注意义务。因此，其结果避免义务是先期的、前瞻性的，这与传统理论的结果避免义务在履行时具有即时性、当场性的特征明显不同。可以说，自动驾驶车辆过失犯罪的注意义务是间接的结果避免义务，而传统过失犯罪的注意义务是直接的结果避免义务。结果避免义务的间接性与直接性，会直接影响注意义务的范畴及要求等。下面以罗森贝格诉哈伍德案为例加以详细说明。
罗森贝格诉哈伍德案是美国犹他州盐湖县第三司法区法院裁决的一起鲜为人知的判例。原告罗森伯格在一条繁忙的街道上驾车行驶时，因使用谷歌GPS而受伤。于是，原告起诉谷歌，主要理由是GPS装置在实现预期目上有缺陷，没有就在大街上行驶存在固有危险发出警告，因而存在一般疏忽。法院裁决，谷歌对原告不负责任，因为双方没有建立合同或身份上的信用关系，没有剥夺原告自我保护的正常机会。GPS只是提供了一个额外的好处，没有剥夺原告现有的保护，因而谷歌没有警示的注意义务。[20]不难看出，法院的主要理由是，尽管汽车装有GPS装置，但因为原告开车有自我保护的机会，除非双方特别确立合同上的信用关系，否则被告没有就道路上的固有危险提出警告的义务。
如果是自动驾驶汽车，情况就大不相同。自动驾驶车辆承诺自治行驶，就应该为乘客提供基本的安全保护，这是其最具吸引力的地方。人们对自动驾驶车辆的信任，类似于契约关系或信托关系，因而提供安全保障的制造商、硬件或者软件的供应商、程序员等，均需履行基本的注意义务，即其产品能够履行基本的提醒、警告或者提示避免危险等义务。因此，自动驾驶汽车GPS装置不仅仅是为用户的生活增加导航能力，还应承担对危险地段发出警告等基本的注意义务。对于自动驾驶车辆而言，由于不存在履行操控智能的驾驶员，因而原本由传统车辆驾驶员承担的基本注意义务，会转嫁给自动驾驶车辆的制造商、硬件或者软件的供应商以及程序员等。
至于辅助操作者，虽然其在现场可以直接履行结果避免义务，但与传统车辆上的驾驶员有所不同。高度自动化的车辆既然需要辅助驾驶者，就意味着需要其发挥一定的作用，履行一定的注意义务。因此，辅助操作者不应像传统车辆上的驾驶员那样，对车辆行驶过程中的一切安全负责，乃至于履行完全的注意义务。既然辅助操作者的注意义务可以是不完全的，无疑为其差别化要求奠定基础。例如，美国内华达州法律要求辅助操作者取得证照，而佛罗里达州法律则无这样的要求。谷歌制造的自动驾驶车辆可使辅助操作者实现较大的解脱，如可以在车上喝茶、看书甚至睡觉，内华达州法律则要求辅助操作者保持时刻清醒。事实上，辅助操作者的具体注意义务，与法律或者自动驾驶车辆对其职能的要求直接攸关。
由上可知，对自动驾驶车辆犯罪而言，即使采取通说新过失论，不同责任主体之结果避免义务亦有其独特性质。由于自动驾驶车辆不存在履行完全注意义务的驾驶员，因而与自动驾驶车辆安全行驶有关的主体均需履行注意义务。对于制造商、程序员等不具体跟车的实体和个人而言，其注意义务具有间接性；而跟随车辆的辅助操作者，其注意义务则具有不完全性。这与传统过失理论中由驾驶员承担直接、完全的结果避免义务有所不同。这种差异，使得在具体确定自动驾驶车辆不同主体注意义务时不能照搬传统过失理论，而是需要重新确定注意义务的范畴和要求。
3
自动驾驶车辆犯罪的注意义务根据
（一）自动驾驶车辆的注意义务的主要来源
根据新过失论，所谓的注意义务通常为客观注意义务。客观注意义务的根据，主要包括法规与行政规章、往来的习惯、规则及社会规范以及判决的限制等。[21]其中，法律规定是基本来源。“客观注意义务只能是从诸如《道路交通法》上的限速这种行政取缔法规中推导出来。为此，按照‘新过失论’，就会存在这样一种倾向：只要是由违反取缔法规的行为导致了结果，就直接肯定存在过失。”[22]对与自动驾驶车辆犯罪的相关主体而言，由于自动驾驶车辆运营尚处于初始阶段，基本上没有形成相关有效的习惯、规则、社会规范，相关的司法判决也匮乏，故而难以为据。因而法律规定是自动驾驶车辆犯罪注意义务的最主要来源。由于自动驾驶车辆有别于传统车辆，因而其犯罪之注意义务根据，除了传统交通法规外，还包括针对自动驾驶车辆的特别法规。此外，如果是制造商等对自动驾驶车辆安全性的特别承诺及规范等，也应该作为注意义务的根据。这样，自动驾驶车辆犯罪的注意义务根据具体包括三类：一般交通运输管理法规；有关自动驾驶车辆的特别交通运输管理法规；责任主体的承诺与规范。
1.一般交通运输管理法规
自动驾驶车辆也是交通工具，因而需要遵循一般的交通运输管理法规。不过，在具体的注意义务要求上，自动驾驶车辆犯罪的责任主体与传统车辆的驾驶员有所不同。众所周知，传统车辆的驾驶员肯定难以对交通运输法规了如指掌，却不得以不知法而免除注意义务，因为这是其从事交通运输必须了解的，无论事实上是否掌握。因此，只要违法就可推定其违背注意义务。自动驾驶车辆则不然。知识库系统以及专家系统会为其储备最完备的交通运输管理法律法规，加上人工智能超强的运算能力，故自动驾驶车辆不会不知道交通管理法规。作为机械实体，自动驾驶车辆通常也会忠实履行计算机程序指令，不会违背法律规定。但是，如果制造商、程序员出现疏忽乃至于没有在计算机程序中储存或者储存不完全，或者所有者、使用人没有及时更新程序中的交通运输管理法律法规软件，导致自动驾驶车辆造成事故，据此就可以直接推定相关主体违背注意义务。换句话说，制造商、程序员等可以不知道交通运输管理法规，却有使自动驾驶车辆知道的注意义务，否则要对其犯罪承担刑事责任。
2.有关自动驾驶车辆的特别交通运输管理法规
从世界范围来看，美国的自动驾驶车辆立法可谓独领风骚。在美国，自华达州首次通过立法允许自动驾驶车辆运营后，许多州和地区先后修改、颁行相关法规，允许自动驾驶车辆运营。这些法规在篇幅和内容上还是存在差异的。“佛罗里达州在2011年通过了立法，随后2014年加利福尼亚州也通过了立法。虽然内华达州、佛罗里达州和加利福尼亚是首先通过自动驾驶车辆法规的州，但其他二十五个州现在已经通过了相关法律。加利福尼亚和内华达州的法律迄今为止最详尽，佛罗里达州的法律已被证明更为宽松。”[23]下面以美国内华达州相关规定为例加以说明。
2011年6月16日，内华达州通过A.B. 511法案，修改交通法规明确将自动驾驶车辆作为一种合法的运输方式，并授权州机动车管理局制定关自动驾驶车辆的具体适用规范。2012年2月15日，内华达州立法委员会通过了美国第一部自动驾驶车辆法规。该法规定义了自动驾驶系统、自动驾驶车辆以及制造商，要求自动驾驶车辆装备安全系统和驾驶辅助系统，包括且不限于提供电子盲点辅助、防撞、紧急制动、停车辅助、自适应巡航控制系统、车道保持辅助、车道偏离预警、交通拥堵和排队辅助的系统。规定在任何自动驾驶车辆在其他机械装置之外，必有配备独立于其他装置的单独装置，以便车辆开启自主模式后，在自动驾驶车辆与其他车辆、物体或自然人发生碰撞之前，能够捕获和存储自治技术传感器数据至少30秒。自治技术传感器数据必须被捕获并以只读格式存储在该装置中，该数据可以保留至外部设备通过该装置能够下载和存储数据。此类数据必须自碰撞日期起保存3年。规范还要求自动驾驶车辆装配一个超越控制开关（一种解除自动驾驶技术并允许人为利用其控制车辆的装置），配备通知警报系统并在自动驾驶技术有故障时能被激活，目的是通知被警告的乘客启动超越控制开关。此外，还规定自动驾驶车辆运行需要有内华达州机动车管理局发放许可证，且只允许在特定区域行驶，等等。[24]
从内华达州等有关自动驾驶车辆法律规定来看，一般具有如下特征：
（1）简明扼要。这是美国各州有关自动驾驶车辆法律规定的共同特征，是与自动驾驶车辆处于初始、试验阶段相适应的。这样的规定既有技术创新、产业发展等方面的考虑，又有安全方面、政策方面的顾忌。不确定基本的注意义务，显然无法确保自动驾驶车辆正常、安全运营，也难以向社会和大众交代。但是，在缺乏实证经验的前提下，太详细的规定会约束、限制自动驾驶车辆的推广运用，不利技术创新、产业发展等。当然，自动驾驶车辆的立法及运营毕竟处于初始或者试验阶段，没有相关积累的经验，也很难做出具体、细致的规定。一旦自动驾驶车辆运营成熟，积累相当的经验，完全可能像对待传统车辆驾驶员那样，对制造商等规定具体、详细的注意义务，到那时可能归责也更容易些。“自治机器的行为与人类的联系越多，现有的产品责任法、代理法、共同犯罪体、协助和教唆、共谋和指挥责任对这些机器造成损害的归责就更容易。”[25]
（2）较高的注意义务标准要求。这是由自动驾驶车辆自治行驶，对安全性提出更高的要求所决定的。由于没有人具体操控，因而对自动驾驶车辆在某些方面提出更高的注意义务几乎成为人们的共识。“在产品责任方面，安全至上的自动驾驶车辆制造商必须执行高安全标准以避免责任。”[26]例如，关于设置超越控制开关等规定，就是对自动驾驶车辆的安全性提出的高要求。如果制造商没有按照法律规定装配超越控制开关，就需要承担法律责任。而且，这种设备不仅在确定民事责任上有意义，而且在确定刑事责任上也发挥作用。[27]又如，华盛顿特区法律要求辅助操作者在自动驾驶车辆行驶时必须坐在控制座上，随时准备控制车辆。[28]这等于要求辅助操作者承担传统车辆驾驶员那样的完全注意义务，这种要求也是极高的。随着自动驾驶车辆技术的不断发展，对相关责任主体的注意义务的标准和要求总体而言可能会水涨船高。“由于自动驾驶车辆系统变得更复杂和更强大，标准可能会变得更高，普通法需要开展足以归责的试验。”[29]不过，个别注意义务的要求也可能会降低，如华盛顿特区法律要求辅助操作者能随时掌控车辆，就不可能一直维系，否则自动驾驶车辆就失去了应有的意义。但是，不管注意义务的要求多高，只要法律明确规定，均应成为注意义务的来源，违背该义务造成事故，将可能构成犯罪。
（3）特别的政策性回应规定。这主要基于社会及公众对自动驾驶汽车的担忧等，在法律中予以适当回应而做出的特别规定。如将自动驾驶车辆的行驶限定在特定区域的柔性规定，就是基于人们对政策关心的回应，包括公众对没有人类的互动驾驶汽车的担忧。不难看出，政策性回应规定在自动驾驶车辆运营初期还是具有现实意义的。安全、有序推进，有利于为推广自动驾驶车辆奠定实践基础和社会基础。作为法律确定的义务，违反政策性回应规定属于没有履行注意义务的体现，导致自动驾驶车辆犯罪的，应承担过失犯罪的责任。例如，如果没有在内华达州法律限定的区域内行驶，或者没有按照要求而擅自驶自限定区域，乃至构成犯罪的，则违规的车辆所有人、使用者应当承担过失犯罪的责任。
3.责任主体的技术要求或规范
与法律规定不同的是，制造商等基于安全、产品推广等特殊需要，有时会对自动驾驶车辆特别做出特别的、与众不同的要求或规范。例如，特斯拉要求“自动驾驶仪在96%的行程中都要工作。尽管汽车能够独自行驶在车道上，但司机必须每隔几秒钟就触摸方向盘，否则汽车就会发出警告信号，最终到达可控状态。”[30]对此，能否将之作为制造商或者辅助驾驶者等的注意义务呢？答案是肯定的。制造商等对产品的要求或规范，虽然不是法律，却是具有约束力的承诺。同时，对于辅助驾驶者而言，只要接受这种要求或者规范，就意味着愿意承担相应的注意义务。例如，成为特拉斯自动驾驶汽车的辅助驾驶者，就意味着接受特拉斯的特别要求，愿意履行每隔几秒钟就触摸方向盘的义务，其与乘客等之间便建立起合同上的契约关系或者信任关系。如果他没有履行该义务乃至造成安全事故，就应承担过失责任。同样，如果在没有每隔几秒钟就触摸方向盘的情形下，汽车没有发出警告信号，乃至造成安全事故，特拉斯就应对此承担过失责任。
通常，制造商等的承诺与规范不能低于保证自动驾驶车辆安全性的一般标准，但可以高于一般标准（行业标准）。遗憾的是，包括美国在内的各国，迄今为止尚未出台有关生产、销售、使用自动驾驶车辆的行业标准，这也是该产业所面临的最为紧迫的任务之一。美国已有不少学者业已关注该问题，并希望联邦政府出台相关规定。“在自动驾驶汽车法学中经常被忽略的更具挑战性和迫切性的问题是如何规范自驾车。自动驾驶汽车使联邦安全生产标准法规和国家车辆操作规程支离破碎。本文的重点在于能否确定由联邦政府通过国家公路交通安全管理局或有权监管自动驾驶汽车的各州，能为自动驾驶车辆制定最有效的规章。”[31]
（二）自动驾驶车辆犯罪的注意义务根据的发展与完善
随着人工智能技术、自动驾驶车辆产业的发展以及自动驾驶车辆的普及与推广，制造商等相关主体的注意义务范畴还会不断发展变化。例如，约书亚•布朗事件发生后，“特拉斯从布朗的车上收集了录像、雷达记录和声纳传感器数据，以确定出了什么问题。利用这些数据，特斯拉升级了自动驾驶软件并通过无线方式将其发送到整个机队。现在每辆特斯拉都有一个改进的算法来更好地检测大运动物体，如明亮的天空下的白色拖车。”[32]这样的措施，无疑会减少类似事件的发生。但是，特拉斯并没有分享事故的原始数据以及改进措施等。这意味着如果谷歌等生产的自动驾驶车辆遇到类似问题，依旧可能酿成惨案。实质上，其他制造商也有过类似的经历，拒绝共享数据并不是特斯拉独有的，几乎所有的原始设备制造商在事故发生后都不愿意油路初始数据。例如，2016年2月，谷歌下属的waymo公司制造的一辆自动驾驶汽车在芒廷维尤擦边撞上一辆大巴，但Waymo没有公布事故数据。相反，waymo宣称事故“改进了我们的软件”。2017年3月，优步设计制造的一辆自动驾驶汽车在亚利桑那州坦佩闯黄灯撞上另一辆车，优步没有发布传感器数据，而是使用目击者帐户否认事故责任。[33]
对于上述罔顾公众安全隐匿技术信息的做法，有学者提出强制数据共享概念。即强制原始设备制造商提供给其他制造商共享特定安全数据。“汽车自驾车管制的首要因素是车辆安全。消费者和立法者梦想着一个道路事故降至零的世界，但原始设备制造商必须共享自动化数据，以消除数据缺口，减轻意外驾驶事件的风险。”[34]这样做的好处在于，“数据共享可以大大减少像约书亚•布朗那样死亡的可能性。它还可以降低小型原始设备制造商准入障碍，同时公平地补偿主要原始设备制造商厂商对数据收集的投资。”[35]该学者还建言，在保证安全、创新和隐私的情况下，国家公路交通安全管理局应该利用其权力强制推行自动化数据共享作为联邦安全标准。[36]共享数据涉及的，主要是指制造商等无法预见却又是自动驾驶车辆本身潜在或固有的危险事故的数据。另外，数据共享是有偿的，这意味着无论是对数据提供者还是接受者，都是一项强制性义务。如果强制数据共享制度被依法推行，那么对于提供数据的原始设备制造商还是接受数据的原始设备制造商而言，都将是一项注意义务。如果没有履行该义务导致发生事故，相关主体就可能需要承担过失犯罪的责任。
4
阻却注意义务之自动驾驶车辆的危险性
根据新过失论，是允许自动驾驶车辆具有一定的危险性的，一定限度内的危险性可以阻却责任主体的结果避免义务，不成立过失犯罪。新过失论与被允许的危险理论、危险分配的法理以及信赖原则具有密切联系。[37]这几种理论分别通过不同的角度来判断行为的危险性，以便合理确定结果避免义务的范畴，为阻却注意义务提供立论依据，限定过失的处罚范围。
（一）自动驾驶车辆之被允许的危险
根据被允许的危险理论，“违反结果回避义务的行为，作为具有引起结果发生的危险性的行为，虽是过失犯罪的构成要件该当行为，但是即使是危险的行为，例外的，也存在允许实施该危险行为的场合。”[38]被允许的危险之所以能够免除结果避免义务，限定过失的处罚范围，是因为其符合社会相当性。“在现代的汽车交通当中，即使在遵守了所有的交通规则的情况下，也总是包含着致使他人受损的危险。在经营工场、采取地下资源、建筑以及利用能量资源等各种领域当中，情况也是相同的。……可以说，被允许的危险表现了与社会生活必要性相结合的社会相当性。”[39]
自动驾驶车辆存在被允许的危险，是由其对社会的积极意义远远大于其对社会的危害决定的。自动驾驶车辆的优点明显的。“一旦完全自动驾驶车辆无处不在，他们的好处将是巨大而令人感动的，如安全、高效与机动。”[40]自动驾驶车辆技术能减少交通死亡事故率，降低交通堵塞，提高排放效率，以及增加无法开车的人的自主权。[41]以安全性为例，由于无人驾驶，自动驾驶车辆可以避免许多人为错误，大大降低事故发生的几率。“谷歌和其他汽车制造商认为，自主车辆将减少人为失误造成的车祸死亡和受伤人数，因为计算机控制自主车辆不会像驾驶员那样疲劳、醉酒或分心。”[42]正因弊远大于利，美国一直以来大力鼓励发展自动驾驶车辆。另外，自动驾驶车辆允许存在被允许的危险，与制造商等承担间接的结果避免义务也有关。在缺乏驾驶员的情形下，自动驾驶车辆的人工智能系统并非能保证万无一失，因此要求制造商等无原则地对现场危险承担绝对注意义务是不合理的，过高的要求会制约自动驾驶车辆及其产业的发展，不符合科技创新与社会发展的需要。
一般来说，在被允许的危险阻却注意义务的场合，“从事风险业务的部门或行业必须尽量避免可能发生的危险，或把危害尽量缩小到最小限度。”[43]因此，对于制造商等来说被允许的危险只能存在于特定场合，而非一般情境中。所谓特定场合，是指尽管制造商、程序员等尽量避免可能发生的危险，力图把危害降至最低限度，但受自动驾驶车辆自身性能决定，仍然存在无法预测、无法解释的危险，这种偶然出现的危险超出了制造商、程序员等的预料，难以预测和避免。例如，自动驾驶车辆的人工智能系统学习时往往能通过学习算法创建规则，而谷歌旗下DeepMind公司研发的AlphaGo Zero更是具备无监督自主学习能力，无需人类提供训练数据而能自学生成新规则，这使得人工智能具备了精准复杂的处理能力与自动编程能力，并产生类似于人类那样的自主意识和思维。人工智能系统根据学习算法生成的新规则做出决断或者改写程序，是制造商、程序员等难以预料和控制的。如果自动驾驶车辆据此作出危险行动，就属于被允许的危险，阻却制造商、程序员等的注意义务。“如果程序员不可能预见致命的自主机器人重写它的程序，如果该事实发生了，这些程序员将被免除责任。”[44]
以约书亚•布朗受害案为例，大型拖车的白色背景与明亮的天空非常巧合的一致，导致自动驾驶车辆的人工智能可能无法有效识别，是造成事故的前因。同时，在大型拖车横穿道路的危急情形下，自动驾驶汽车的人工智能系统通过最佳决算作出指令从拖车底下穿过，最终酿成惨重后果。客观地说，特斯拉的传感器未能区分18轮白色拖车和明亮的天空，并试图从拖车底下全速穿行，可能是自动驾驶车辆本身潜在或固有的危险。这种危险非常偶然地发生，是制造商、程序员等无法预见的，不应要求他们担负其注意义务而承担过失责任。
（二）自动驾驶车辆的危险分配法理
危险分配的法理所讨论的是，在认定过失犯时，对加害人与被害人应分别提出什么注意义务的问题。如果对加害人提出的义务范围较广的话，被害人的注意义务范围就会较窄；反之，如果给加害者提出的注意义务的范围较窄的话，那么，被害人的注意义务范围就会较广。因此，基于现实社会的要求应当对危硷进行适当分配。[45]危险的分配法理要求在制造商等责任主体与被害人之间取得平衡，不应有所偏袒。“为了在保护个人免受人工智能的潜在危害和鼓励公司开发这种技术之间取得平衡，公司必须仔细评估他们进入市场的技术的可预见风险，并采取措施尽量减少这些风险。”[46]对于承担注意义务的制造商等责任主体而言，“为了适当分配这种创新的风险，符合要求的责任制度是，既不应过于加重制造商的责任，因为这会阻碍生产，也不应过于减轻制造商的责任，因为这会削弱责任法的立法目的，即预防事故和对受害者的赔偿。”[47]
危险分配法理的运用，与行为人的注意义务标准有着密切联系，而标准确立又往往与人类的道德情感、伦理观念以及职业素养等攸关。“在认识危险性时要求行为人的注意义务的标准，是‘行为人所属的社会生活领域里认真的和谨慎的人’……”[48]例如，必须考虑到下列情况，即那些明显的不注意者、身体缺陷者、幼小的孩子、在特定情况下还有少年等，他们可能会突然从道路旁进入车道；在建筑工地行驶的汽车驾驶员必须考虑到在建筑工地劳动的人突然出现在车道上的现象；只有当儿童有人陪伴时，汽车驾驶者方允许搭载该儿童；倒车以及向右转弯时，为了不伤害骑自行车人要求特别注意。在大企业的交通地带，汽车驾驶员应当考虑到企业员工的不注意因素，等等。[49]这使得对于自动驾驶车辆犯罪而言，贯彻危险分配法理最大问题不在于危险分配，而在于对注意义务标准的要求。
这是因为，自动驾驶车辆的人工智能系统在认真的和谨慎方面与人类存在明显不同。一方面，当前人工智能的某些智能，如运算智能、感知智能等可能远胜于人类，因而其在某些方面的认真与谨慎也远胜于人类，这使得很容易合理分配危险并确定注意义务。例如，当自动驾驶车辆倒车以及向右转弯时，其强大的感知系统如全景摄像装备等，使之通常不可能伤害行人或者骑自行车人。因此，如果制造商等没有配备这样的基本安全保障设备，就应当被认为没有履行结果避免义务，成立过失犯罪。
另一方面，人工智能在道德情感、伦理观念等方面的局限，使得其难以做到必要的认真与谨慎。人工智能具备道德伦理，这一点即使批评者也没有完全否认。“在伦理道德领域，人工智能建立在规则基础上的行事方式因与之不契合而遭至批评……”[50]在这里，批评者并非否认人工智能的伦理道德，而是基于个人主义本体论的道德观，强调其与人类既有规则的不契合。人工智能的道德与人类的道德存在一定区别，有其客观原因。人类的道德是在历经复杂的社会关系与人际关系后通过抽象思维形成的，而人工智能既没有经过人类那样的漫长成长历程洗礼，也没有经受过复杂的社会关系与人际关系浸淫，其道德是基于数据和算法的线性“思维”形成的。因此，要想让自动驾驶车辆准确判断身体缺陷者、工地及随时可能出现的人等，几乎是难以做到的。如果自动驾驶车辆将乱闯马路的智障者压死，如何分配危险就十分棘手。
在这种情形下，如果以自动驾驶车辆未尽认真与谨慎而认为制造商、程序员等没有履行结果避免义务，则可能会导致他们对一些不能预测或者解释的意外事件承担注意义务，这显然过于扩大了注意义务的范畴。但是，如果不加以必要要求，则会导致履行注意义务应尽的认真与谨慎对于自动驾驶车辆不适用，这显然是不合适的。比较理想的解决途径是，为了补足人工智能系统在道德伦理上与人类的差距，可以要求车辆在拐弯、倒车或者在特定的区域，或者针对特定的对象，采取一定的预警措施，如鸣笛、降速、短暂停车等待等措施，以避免造成不必要的人员伤亡。这些措施，其实也是人类驾驶员应该采取的。如果制造商等没有安装相应地预警系统等，导致车辆在拐弯、倒车或者在特定的区域造成事故，应当视为没有履行结果避免义务，成立过失犯罪。
（三）自动驾驶车辆犯罪与信赖原则
信赖原则是指依照交通规则行动的人只要信赖其他交通参与者也会遵守交通规则即可，而且只要不存在能够认识他人违反交通规则事实的特别的事由，就没有必要事先预见其他人会实施违反交通规则的行动并履行注意义务的原则。[51]信赖原则虽然以信赖他人遵守交通规则而免除注意义务，但这种信赖不是无条件的。如果存在能够认识他人违反交通规则事实的特别事由，就不能使用信赖原则，既不能免除结果避免义务。“这个道理适用于小孩，在引人注目的举止行为中也适用于较大的孩子，适用于老弱、年迈或者明显迷失方向的步行者，适用于在特别危险和混乱的交通情况下，以及在任何其他交通参与人都能看出这个人没有遵守交通规则的地方。当一个汽车驾驶员注意到别人没有尊重自己的先行权时，他就必须减速停下，不允许在信赖自己的‘权利’中继续开行。”[52]
另外，当违反交通法规的情况经常如此发生，以至于一个有良心的驾驶员当然必须对之加以考虑时，根据司法判决信赖原理就必须退居次要地位。[53]这也可以视为信赖原则的例外。通常，信赖他人不闯红灯是可以免除注意义务的。例如，韩国曾有判例认定，“作为车辆驾驶司机当然会信赖在干线道路人行横道上的步行信号为红灯时不会有步行者无视信号突然横穿马路的情况存在。因此，没有事先甚至要预见到这种情况进而应该注意驾驶的注意义务。”[54]但是，如果预见到特定区域经常会有闯红灯的现象，就不能使用信赖原则。例如，在一个经常会出现因行人闯红灯而致交通拥堵的地方，就不能以信赖他人不闯红灯为由免除注意义务，如果冲撞闯红灯的行人是可以构成犯罪的。
对于自动驾驶车辆的人工智能系统而言，适用信赖原则会发生巨大困难。如前所述，自动驾驶车辆的人工智能系统虽然是听从计算机程序的指令，但并非完全听从于计算机系统的指令机械行驶。“致命的自动机器人在许多重要方面更像是一种文化结构，而不是一种技术，它的意义维度是意向性的而不是技术系统。……它意味着致命的自动机器人所结合的潜在技术，将继续发展成为独立的、与任何对之直接控制无关的技术——包括物理硬件的功能、软件的精密以及我们称之为‘自治’的综合技术能力。”[55]当人类违规实施行为时，若自动驾驶车辆的人工智能系统通过学习算法和最佳决策方案，瞬间筛选的最佳方案是排除个人干扰时，自动驾驶车辆就有可能杀死违规操作的人，这是许多机器人杀人的真正原因。例如，1981年在川崎的一家制造工厂，一位37岁的工厂工人进入受限制的安全区在对机器人进行维修。在匆忙中，他没能完全关掉它，机器人的强大的液压臂将其推到相邻的工程机械，致其死亡。[56]该案中，被害人正因违法操作遭至机器人袭击而致死。这样的情形是无法监督、避免的。
对于上述情形，有学者认为应当由社会或者被害人承担相应后果。“如果社会接受了与自驾车有关的便利、机会和安全保证，它也应该接受这样一个事实，即机器人的意外行为（可能极为罕见）将导致对随机受害者的（一般）可预见的伤害。”[57]根据该观点，即使存在能够认识他人违反交通规则事实的特别事由，如果自动驾驶车辆作出最佳决策而排除妨碍，致违规者伤亡的，制造商等亦不负刑事责任，即不承担对这种后果的避免义务。这种观点显然坚持的是绝对信赖原则，有所不妥。也有学者认为，为了应对自动驾驶汽车存在潜在的不可预测性问题，需要确定一系列有代表性的场景和增加沟通等一般原则。“这些场景包括自动驾驶车辆和弱势群体——行人、骑自行车的人、其他司机或乘客之间的高冲突环境，应特别引起政策制定者的关注。”[58]换句话说，在高冲突环境等特定场景中，应当限制信赖原则适用，制造商等应合理保证自动驾驶车辆不至于酿成不必要的事故。应当说，这样的考虑还是相对可取的。
5
自动驾驶车辆犯罪之注意义务的竞合
自动驾驶车辆造成某种犯罪结果，可能是由于两个以上的主体没有履行注意义务共同造成的，从而形成注意义务的竞合。由于自动驾驶车辆通常涉及多个主体，因而注意义务的竞合较为普遍。一般来说，注意义务的竞合包括两种不同情形：一是作为自动驾驶车辆的加害主体的注意义务的竞合。二是作为自动驾驶车辆的加害主体与被害人的注意义务的竞合。
第一种情形既包括自动驾驶车辆的制造商、人工智能系统的软件或硬件供应商、程序员、所有人、使用者、辅助操作员等之间的注意义务的竞合，也包括这些主体与外来侵入者如黑客之间的注意义务的竞合。以特斯拉汽车的自设规则为例，当汽车独自行驶在车道时，司机必须每隔几秒钟就触摸方向盘，否则汽车就会发出警告信号，以求到达可控状态。该规则涉及两个主体：辅助操作员（司机）与预警系统的软件供应商或者制造商。如果司机没有每隔几秒钟就触摸方向盘，汽车也没有发出警告信号，乃至造成安全事故。表明辅助操作者没有履行触摸方向盘的注意义务，而特拉斯或软件供应商等没有就预警系统的启动履行应有的注意义务，特拉斯或软件供应商等与辅助操作者发生注意义务的竞合，双方均应对此承担过失责任。
如果是外来侵入者如黑客由于疏忽侵入自动驾驶车辆的人工智能系统，而辅助操作者等又未能履行注意义务，则黑客和操作者应共同承担刑事责任。“至少有两个责任方需要考虑：第一，黑客，显然将对她的行为负刑事责任，第二，操作者，因为她现在被期待接管车辆的安全操作，直到技术被修复。”[59]例如，黑客由于疏忽侵入自动驾驶车辆的人工智能系统，导致车辆倒车或者拐弯时没有减速并发出警报，而辅助操作者也没有紧急启动超越控制开关，切换到人工操控模式，结果导致车辆在倒车时将路人压死。该案中，黑客没有避免自己的行为侵入自动驾驶车辆的人工智能系统，而辅助操作者也没有履行启动超越控制开关的义务，双方的注意义务发生竞合导致事故发生，均应承担刑事责任。
在注意义务的竞合中，特别需要说明的是监督过失。“由于业务或者其他社会生活上的关系，负有义务监督他人不致过失造成法益侵害的人，没有履行这种监督义务时，就是监督过失。监督过失是事前的指示、指导、指挥、命令、行动中的监视与事后的检查。”[60]监督过失是因为没有履行监督义务而成立的过失，当监督义务与其他人的结果避免义务竞合时，双方均构成过失犯罪。对于自动驾驶车辆而言，履行监督义务的主要是制造商、程序员、所有者或者使用者等。“假设程序员或用户在无人驾驶人工智能交通工具的日常活动深度参与，但没有通过无人驾驶人工智能交通工具犯任何罪的意图。……在犯罪完成之前，程序员或用户对无人驾驶人工智能交通工具的犯罪行为一无所知；他们并不打算犯任何过错，他们也没有参与特定犯罪的任何犯罪行为。”[61]例如，程序员设计的程序有瑕疵，而制造商却怠于监督、检查致没有发现这种瑕疵，导致发生事故的，制造商因没有履行监督义务成立监督过失，程序员因没有避免有瑕疵的程序亦应成立过失。
6
结语对于自动驾驶车辆过失犯罪而言，专门的法律法规、技术规范以及规章制度等几乎是确定注意义务的唯一来源，是追究刑事责任的决定性因素。如果缺乏，意味着无法确定责任主体的结果避免义务，也就不能追究过失犯罪的刑事责任。而没有刑法的强有力保护，既不利于社会秩序的维护，也不利于自动驾驶技术和产业的健康发展。当前，对于我国自动驾驶技术及产业而言，最大的问题和症结在于其高速发展的态势与立法规制与行业规范严重滞后之间的矛盾。从立法层面来看，国家有关自动驾驶车辆权利和义务的法律规范几乎完全处于空白状态，而仅仅根据一般的道路交通管理法规，又不可能有效规制自动驾驶车辆方面的违法犯罪。对于制造商等来说，技术革新、勇于践行的热情和动力有余，保证车辆安全性能的技术规范、行业标准等规章制度严重不足，这样的局面无疑会严重影响自动驾驶技术及产业的健康发展。
沃尔沃的首席执行官萨缪尔森曾在一份新闻稿中宣称，推动自动驾驶技术发展的最大障碍是监管而非技术障碍。[62]这对我国而言尤为如此。就目前我国自动驾驶车辆技术及产业发展而言，当务之急有二：一是在立法层面上，国家必须尽快制定和颁布有关自动驾驶车辆的法律法规，明确当事主体的权利和义务，为解决事故纠纷提供法律依据和保障；二是在制度层面，制造商等关联企业必须尽快出台保证车辆性能和安全行驶的技术规范、行业标准等规章制度，明确各方主体应当遵循的基本准则和需要履行的基本义务，为解决事故纠纷提供基本的技术依据和行业标准。只有在有效规范自动驾驶车辆相关主体的权利、义务以及法律责任的前提下，自动驾驶技术及产业才能健康、稳定的可持续发展。
参考文献
（请向下滑动）
[1]See Kieran Tranter, The Challenges of Autonomous Motor Vehiclesfor Queensland Road and Criminal Laws, QUT Law Review, Vol.16, No.2(2016),pp.63-64.
[2]常见的自动驾驶车辆主要包括汽车、地铁等，但自动驾驶地铁的运营较自动驾驶汽车要早得多。例如，1998年10月15日，巴黎地铁14号线正式运营，这是世界上第一条无人驾驶全自动化的线路。此后，世界上许多大都市先后开始运营无人驾驶的地铁系统。地铁能够率先实行无人驾驶。相对而言，各国对在开放的道路上允许自动驾驶汽车运营要慎重的多，如法国直到2017年初才进行无人驾驶电动公交车试运营。或许，这与地铁全封闭运行更为安全有直接关系。
[3]2017年3月，义乌市福田街道发生一起四车追尾事故，一辆特斯拉无人驾驶汽车追尾前车后导致前方三车相继追尾。参见：《交警:自动驾驶≠无人驾驶》，《东莞时报》2017年3月8日，第A19版。
[4] TrevorN. White and Seth D. Baum,“Liability For Present andFuture Robotics Technology,” in Patrick Lin, RyanJenkins, and Keith Abney，Robot Ethics 2.0: From Autonomous Cars toArtificial Intelligence，NewYork: Oxford University Press，2017，p.76.
[5] Brendan Gogarty, Meredith Hagger,“The Laws of Man over Vehicles Unmanned: The LegalResponse to Robotic Revolution on Sea, Land and Air,”Journal of Law, Information and Science, Vol. 19, (2008),p.144.
[6]有学者认为自动驾驶车辆等人工智能也可以成为犯罪主体。参见刘宪权：《人工智能时代的刑事风险与刑法应对》，《法商研究》年第1期；夏天：《基于人工智能的军事智能武器犯罪问题初论》，《犯罪研究》2017年第6期。但是，作为一种非生物学意义上的科技有机体，要想成为犯罪主体首先需要刑法确认，否则违背罪刑法定原则。因此，在现有刑法框架下，讨论自动驾驶车辆的制造商、程序员等自然人或者法人主体的责任及其注意义务更具有实质意义。
[7] See Clint W. Westbrook, “TheGoogle Made Me Do It: The Complexity of Criminal Liability in the Age of AutonomousVehicles,” Michigan State Law Review, Vol. 2017, No.1 (2017),p.127.
[8] Clint W. Westbrook, TheGoogle Made Me Do It: The Complexity of Criminal Liability in the Age of AutonomousVehicles, MichiganState Law Review, Vol. 2017, No.1 (2017)，p.141.
[9] Clint W. Westbrook, “TheGoogle Made Me Do It: The Complexity of Criminal Liability in the Age of AutonomousVehicles,” Michigan State Law Review, Vol. 2017, No.1 (2017),p.127.
[10] Kieran Tranter,“TheChallenges of Autonomous Motor Vehicles for Queensland Road and Criminal Laws,”QUT Law Review, Vol. 16, No.2 (2016),p.78.
[11] Andrew R. Swanson, SomebodyGrab the Wheel: State Autonomous Vehicle Legislation and the Road to a NationalRegime, MarquetteLaw Review, Vol. 97, No.4 (Summer 2014), p.1109.
[12] Raymond S. August,“Turning theComputer into a Criminal,” Barrister, Vol.10, No.4(Fall 1983),p.54.
[13] Weston Kowert,“TheForeseeability of Human-Artificial Intelligence Interactions,”Texas Law Review, Vol. 96, No.1 (November 2017),p.183.
[14] Kyle Colonna, AutonomousCars and Tort Liability, Case Western Reserve Journal of Law, Technology and the Internet, Vol. 4, No.1(Fall 2012),p.84.
[15] See James M. Anderson Et al., Rand CORP., Autonomous VehicleTechnology: A Guide For Policymakers,
http://www.rand.org/content/dam/rand/pubs/researchreports/ RR400/RR443-2/ RANDRR443-2.pdf[https://perma.cc/QFG5-3HU9].
[16]SeeAndrew Del-Colle, The 12 Most Important Questions About Self-Driving Cars,
http://www.popularmechanics.com/cars/news/industry/the-12-most-important-questions-about-self-driving-cars-16016418.
[17] [日]曾根威彦：《刑法学基础》，黎宏译，法律出版社2005年版，第116页。
[18] [日]西田典之：《日本刑法总论》，刘明祥、王昭武译，中国人民大学出版社2007年版，第207页。
[19] See Sam Levin & NickyWoolf, Tesla Driver Killed While Using Autopilot was Watching Harry Potter, WitnessSays, GUARDIAN (July 1, 2016),
http://www.theguardian.com/technology/2016/jul/O1/tesla-driver-killed-autopilot-self-driving-car-harry-potter.
[20] Rosenberg v. Harwood, No.100916536, Utah 3d.Jud. Dist. Ct. May 27, 2011.
https:// www. leagle. com/decision/infdco20110617c10.
[21] [韩]金日秀、徐辅鹤：《韩国刑法总论》，郑军男译，武汉大学出版社2008年版，第433-434页。
[22] [日]松原芳博：《刑法总论重要问题》，王昭武译，中国政法大学出版社2014年版，第214页。
[23] Jordan Fowler, Trailblazingan Industry: The Potential Effects and Defects of Autonomous Vehicles and theNeed for Legislation in Texas, TexasTech Law Review, Vol. 49, No.4(Summer 2017),p.913.
[24] See Jeffery Mackowski, Goodbut Not Great: Autonomous Vehicles and the Law in Florida, FIU Law Review, Vol. 11, No.1(Fall 2015)，pp.238-240.
[25] Mark A. Chinen, TheCo-Evolution of Autonomous Machines and Legal Responsibility, Virginia Journal of Law & Technology, Vol. 20, No.2(Fall 2016), P.361.
[26] Melinda Florina Lohmann,Liability Issues concerning Self-Driving Vehicles, European Journal of RiskRegulation (EJRR), Vol. 7, No.2 (2016), p.339.
[27] See Andrew Swanson,“‘SomebodyGrab the Wheel! ’: State Autonomous Vehicle Legislation and the Road to a NationalRegime”, MarquetteLaw Review, Vol. 97, No.4(Summer 2014), p.1121.
[28] See D.C. CODE § 50-2352 (2)(2013).
[29] Brendan Gogarty; Meredith Hagger, The Laws of Man over VehiclesUnmanned: The Legal Response to Robotic Revolution on Sea, Land and Air, Journal of Law, Information andScience, Vol. 19, No.1 (2008),p.124.
[30] David Goldstein, AutonomousVehicles Will Drive Themselves - But They Won't Regulate Themselves, Hastings Business Law Journal, Vol. 13, No.2 (Winter 2017)， p.242.
[31] Brian A. Browne,Self-Driving Cars: On the Road to a New Regulatory Era, Case Western Reserve Journal ofLaw, Technology and the Internet, Vol. 8(2017), p.8.
[32] Jesse Krompier, SafetyFirst: The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-DrivingCars,University ofIllinois Journal of Law, Technology & Policy, Vol. 2017, No.2(Fall 2017)，p.441.
[33] See Jesse Krompier, SafetyFirst: The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-DrivingCars, University of Illinois Journal of Law, Technology &Policy, Vol. 2017, No.2(Fall 2017)，p.441.
[34] Jesse Krompier, SafetyFirst: The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-DrivingCars, University of Illinois Journal of Law, Technology &Policy, Vol. 2017, No.2(Fall 2017)，p.468.
[35] Jesse Krompier, SafetyFirst: The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-DrivingCars, University of Illinois Journal of Law, Technology &Policy, Vol. 2017, No.2(Fall 2017)，p.468.
[36] See Jesse Krompier, SafetyFirst: The Case for Mandatory Data Sharing as a Federal Safety Standard for Self-DrivingCars, University of Illinois Journal of Law, Technology &Policy, Vol. 2017, No.2(Fall 2017)，p.468.
[37]张明楷：《外国刑法纲要》，清华大学出版社2007年版，第237页。
[38] [日]山口厚：《从新判例看刑法》，付立庆、刘隽译，中国人民大学出版社2009年版，第61页。
[39] [韩]李在祥：《韩国刑法总论》，[韩]韩相敦译，中国人民大学出版社2005年版，第167页。
[40] Julie Goodrich, Driving MissDaisy: An Autonomous Chauffeur System, Houston Law Review, Vol. 51, No.1 (Fall 2013), p.278.
[41] Lindsey Barrett, HerbieFully Downloaded: Data-Driven Vehicles and the Automobile Exception, Georgetown Law Journal, Vol. 106, No.1(November 2017) ,pp.182-183.
[42] Jeffrey K. Gurney, Sue MyCar Not Me: Products Liability and Accidents Involving Autonomous Vehicles, University of Illinois Journal ofLaw, Technology & Policy, Vol. 2013, No.2 (Fall 2013), pp.250-251.
[43]姜伟：《罪过形式论》，北京大学出版社2008年版，第299页。
[44]TetyanaKrupiy,“Of Souls, Spirits and Ghosts: Transposing the Application of theRules of Targeting to Lethal Autonomous Robots,” Melbourne Journal ofInternational Law, Vol. 16, No.1 (2015),p.201.
[45]参见张明楷：《外国刑法纲要》，清华大学出版社2007年版，第237页。
[46] Weston Kowert,“TheForeseeability of Human-Artificial Intelligence Interactions,”Texas Law Review, Vol. 96, No.1 (November 2017),p.185.
[47] Melinda Florina Lohmann,Liability Issues concerning Self-Driving Vehicles, European Journal of RiskRegulation (EJRR), Vol. 7, No.2 (2016), p.339.
[48] [德]耶赛克、魏根特：《德国刑法教科书》，许久生译，中国法制出版社2001年版，第693页。
[49]参见[德]耶赛克、魏根特：《德国刑法教科书》，许久生译，中国法制出版社2001年版，第693页。
[50] Ariel Ezrachi，Maurice E. Stucke, “Artificial Intelligence& Collusion: When Computers Inhibit Competition,”University of Illinois Law Review, Vol. 2017, No. 5(2017),p.1803.
[51] [韩]金日秀、徐辅鹤：《韩国刑法总论》，郑军男译，武汉大学出版社2008年版，第437页。
[52] [德]罗克辛：《德国刑法学总论（第1卷）》，王世洲译，法律出版社2005年版，第718页。
[53] [德]罗克辛：《德国刑法学总论（第1卷）》，王世洲译，法律出版社2005年版，第718页。
[54] [韩]金日秀、徐辅鹤：《韩国刑法总论》，郑军男译，武汉大学出版社2008年版，第438页。
[55] Gary E. Marchant，BradenAllenby，Ronald Arkin，Edward T.Barrett, International Governance of Autonomous Military Robots, Columbia Science and Technology Law Review, Vol. 12 (2011), pp.287-288.
[56] See Yueh-Hsuan Weng,Chien-Hsun Chen & Chuen-Tsai Sun,“Toward the Human-Robot Co-ExistenceSociety:On Safety Intelligence for Next Generation Robots,”International Journal of SocialRobotics, Vol 1, No.4( 2009), p.273.
[57] Sabine Gless，EmilySilverman，Thomas Weigend, If Robots Cause Harm, Who Isto Blame: Self- Driving Cars and Criminal Liability, New Criminal Law Review, Vol. 19, No.3 (Summer 2016), pp.435-436.
[58] Harry Surden, Mary-AnneWilliams, Technological Opacity, Predictability, and Self-Driving Cars, Cardozo Law Review, Vol. 38, No.1(October 2016),p.167.
[59]FrankDouma, Sarah Aue Palodichuk,“Criminal Liability IssuesCreated by Autonomous Vehicles,” Santa Clara Law Review, Vol. 52, No.4(2012), p.1165.
[60]张明楷：《外国刑法纲要》，清华大学出版社2007年版，第242页。
[61] Gabriel Hallevy，“Unmanned Vehicles: Subordination to Criminal Law under the Modern Concept of CriminalLiability，”Journal of Law, Information andScience, Vol. 21, No.2(2011/2012),p.204.
[62] See Jessica S. Brodsky,Autonomous Vehicle Regulation: How an Uncertain Legal Landscape May Hit theBrakes on Self-Driving Cars, Berkeley Technology Law Journal, Vol. 31,Annual Review 2016 (2016), p.857.
本文载于《政治与法律》2018年第5期
感谢作者对本公众号的授权
本文仅作学习交流之用
Edward Hopper · Freight Car at Truro
往期荐读
编辑：钟柳依
欢迎点击“阅读原文”