陈洪兵：人工智能刑事主体地位的否定及实践展开

副标题：兼评“反智化批判”与“伪批判”之争

作者：陈洪兵，法学博士，东南大学法学院教授，博士生导师；北大法律信息网签约作者

来源：北大法宝法学期刊库《社会科学辑刊》2021年第6期（总第257期）。因篇幅较长，已略去原文注释。

摘要：人工智能刑法研究的争论焦点在于，应否赋予强人工智能机器人刑事责任主体地位。肯定论的逻辑是：在可能到来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为，其具有辨认和控制能力，具有刑事责任主体地位，应承担刑事责任。肯定论看似环环相扣，其实不过是一种主观臆测，缺乏有效论证，结论并不成立。虽然应当肯定“人工智能不能被骗”，但考虑到人工智能日益广泛代替人类处理财务活动的现实，加之我国盗窃罪与诈骗罪法定刑并无差异，财产性利益也能成为盗窃罪的对象，严格区分盗窃与诈骗已然失去意义。可以将“高度自动驾驶”和“完全自动驾驶”看成“被允许的危险”，汽车使用者因为信赖自动驾驶系统而发生交通事故的，汽车使用者不承担交通肇事罪刑事责任。医疗人工智能只是辅助医生诊疗的工具，属于医疗器材的范畴，医生因为信赖医疗人工智能而做出错误诊断的，应由医生承担医疗事故罪刑事责任。

关键词：人工智能；刑事责任主体；自动驾驶；交通肇事罪；医疗事故罪

一、“反智化批判”与“伪批判”之争

　　近三年来，人工智能刑法研究“野蛮生长”，相关成果和“人工智能刑法专家”如雨后春笋般涌现。笔者于2021年7月12日在中国知网上以“人工智能”为主题检索到2018年以来的相关刑法论文401篇，而2018年以前（1979年—2017年）仅31篇。其中，华东政法大学刘宪权教授成果较多，其核心观点是：在可能（即将）到来的强人工智能时代，强智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志，选择性地实施危害社会的行为。因其具有辨认和控制能力，刑法应赋予其刑事责任主体地位，增设删除数据、修改程序、永久销毁等刑罚处罚方式，依法对其进行审判和定罪量刑。

　　从弱人工智能到强人工智能（超级人工智能）存在着鸿沟，联结主义的方法能否使人工智能产生质变是个未知数。从目前的技术来看，强人工智能时代只是一种想象。针对学界人工智能刑法研究的乱象，刘艳红教授撰发《人工智能法学研究的反智化批判》一文（以下简称《反智化批判》），不点名地批判了当前人工智能刑法研究中，出现了“反智化”“概念附会”“学术泡沫”“制造假问题”“不可知论”“盲目跟风”“人工智能体崇拜”等现象。刘宪权教授则撰发《对人工智能法学研究‘伪批判’的回应》（以下简称《伪批判》），指出刘艳红教授系“‘为批判而批判’的‘伪批判’”，认为其既“混淆了‘人工智能’与‘机械自动化’的概念”，又“将弱人工智能时代的特征‘嫁接’到对强智能机器人刑事责任主体地位的探讨中，将强人工智能时代的特征‘嫁接’到对弱人工智能时代刑事风险的探讨中”；同时还“存在‘像人一样思考’和‘机器’含义的冲突以及‘人造牛皮论’与‘法人的人工类人格’内涵的抵牾”。

　　可以发现，上述《反智化批判》与《伪批判》以及其他相关研究的争论的核心，是应否赋予将来强人工智能时代的强智能机器人以刑事责任主体地位。本文首先探讨这一核心问题，继而在人工智能刑事主体地位否定论的立场上，就有关人工智能应用的人工智能侵财犯罪的定性、自动驾驶的归责方案、医疗人工智能的责任分配这三个问题展开具体考察。

二、核心：应否赋予强人工智能机器人刑事责任主体地位

　　关于是否应承认强智能机器人的刑事责任主体地位，学界存在肯定论与否定论两种立场。

　　肯定论认为在将来的强人工智能时代，应赋予强智能机器人刑事责任主体地位。根据在于：

　　其一，从客观上来看，智能机器人与自然人的距离并不遥远。换句话说，智能机器人特别是强智能机器人与自然人可能仅存在形体、机理等客观形式上的区别。在人工智能技术达到一定的水平后，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志，选择性地实施行为。因此，当智能机器人与自然人一样，能够以自主的意志控制、实施行为时，其就具有辨认和控制能力，即具备刑事责任能力。

　　其二，将自然人以外的事物作为刑事责任主体具有可行性。单位作为可以承担刑事责任的主体经历了从否定说即“法人不能构成犯罪”到肯定说的发展。单位的刑事责任能力源自单位中自然人意志的延伸。而智能机器人在实施人类设定的程序、安排的计划以外的行为时所展现的自主选择，同样是对自然人意志的发展、延伸乃至超越，这种与自然人意志的紧密与超越关系甚至是单位所不能及的。可见，既然与自然人差别很大的单位都可以成为刑事责任主体，智能机器人当然也有资格为其实施的犯罪承担刑事责任。

　　其三，“智能机器人不存在自由意志”只是一种主观臆测，并不能得到有效证明。在强人工智能时代，智能机器人具备自由意志产生的条件，即充当大脑的程序、算法以及大数据技术辅助下的数据收集本领。而当智能机器人具备这两个条件时，没有人能够绝对性地否定智能机器人存在自由意志的可能性。因此，那种认为“智能机器人不可能产生自由意志”，进而推定智能机器人不具备刑事责任能力，不具备成为刑事责任主体的基础的观点没有凭据，难以被采信。

　　其四，“自由意志”的概念并非牢不可破，不应混淆“意志”与“自由意志”。“意志”是一种可以通过外在形式表现出来的决策机制，而非“自由意志”般属于形而上的概念。“自由意志”实则是特定时期下一种必要的假设，来自“个体自由”的主观感觉，其客观性与证明力都存在不确定性。从罪责理论的角度来看，罪责理论已经呈现出明显的“去形而上学”趋势。在这种背景下，同样具有决策机制（基于算法等），即“意志”的人工智能自然也可以实施刑法意义上的行为，承担刑事责任。

　　其五，自然科学的进步使得人工智能获得主体地位的可能性持续提高。在神经科学等科学技术不断发展的过程中，通过模仿人脑，人工智能可以被赋予人类智识，并由此生成意志和道德。未来，当人工智能获得意识和道德理性，其拥有主体资格就是理所当然的。国外有学者指出，如果智能代理获得了自我反省和类似于良知的能力，就不得不考虑它们的人格问题。鉴于生物进化速度的缓慢，人工智能的发展很可能突破人类在智识和能力上的限制。因此，肯定人工智能具有主体地位是一种趋势。

　　其六，随着人工智能技术的不断发展，人类对于人工智能的控制力不断弱化。当人工智能能够以自主意志而非他人意志实施超出人类设定的程序、安排的计划外的行为时，即尽管与人类有互动，但仍是其基于自主选择实施行为时，就可以将其视为具备刑事责任能力的主体。

　　其七，智能性是权利主体的本质，人工智能与人类在外在形式上的区别并无意义，只有人工智能符合智能性的要求时，即明白自己的权利义务，并遵循法则实施行为，才可能被纳入权利主体的范围中。若科学界对“类人机器人”的预测成真，彼时智能机器人便具备了智能性，取得了权利主体的资格。将智能机器人建构为法律上的“人”，有利于处理未来新型社会关系，包括涉及智能机器人的各种“犯罪”现象与疑难社会问题。

　　由此可见，上述肯定论的逻辑是在将来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为。与此同时，智能机器人便自动获得了刑法所承认的辨认、控制能力，即具备了刑事责任能力，自然应当成为刑事责任主体，承担刑事责任。这可谓环环相扣：强人工智能时代可能到来→智能机器人在人类设定的程序、安排的计划外选择性地实施行为→自由意志→辨认、控制能力→刑事责任能力→刑事责任主体地位→刑事责任。上述推理犹如多米诺骨牌，并不牢靠。

　　其一，肯定论的前提始终只是假设。例如肯定论认为，“智能机器人有可能像霍金所预言的那样成为地球上除男人、女人之外有意识、能思维的‘第三类人’”；“脱离人类设计和编制程序控制的强人工智能产品有出现的可能”；“在人工智能时代，智能机器人有可能具有辨认能力和控制能力”；“至少目前人工智能尚未形成意识和道德理性。至于何时能形成，很难有确切答案”。肯定论所坚信或者念念不忘的所谓“奇点理论”，其实“缺乏科学依据”。因而，“纯粹出于‘幻想’的理论探讨如同空中楼阁，其根基并不牢靠”。若前提不能肯定成立，刑事责任主体地位的结论自然就成了“无源之水，无本之木”。

　　其二，所谓强智能机器人具有自主意识和意志，只是肯定论者的猜想。肯定论者也只是认为，通过人类的创造，智能机器人具备与人类大脑类似的构造，并通过深入学习，继而可能会产生独立的意志。重点在于，这只是一种可能性，任何人都不可能绝对确定在未来的某个时间点，智能机器人可以拥有独立的行动意志。尽管刘宪权教授认为，“绝对否定智能机器人具有自由意志的论断是非常武断和不可靠的”“这种观点（即否定论——引者注）的误区在于把主观臆断上升为绝对真理”，但我们何尝不可以认为“绝对肯定智能机器人具有自由意志的论断是非常武断和不可靠的”“这种观点（即肯定论）的误区在于把主观臆断上升为绝对真理”？而且，人工智能做出超出人类设定的程序、安排的计划的行为，不一定代表其产生了自主意志，也可以解释为发生了机械故障。

　　其三，所谓强智能机器人具有辨认和控制能力，缺乏论证。一旦“强智能机器人具有自主意识和意志”这一前提不能证立，后面的结论也就无所依存。从概念上看，人工智能是让机器学习像人一样做事的技术。技术与人的概念可谓天差地别，“人工智能没有灵魂，有的甚至没有实体”。因此，要拉近二者的距离已经十分困难，想在它们之间画上等号，使其在某些功能上具有同等意义更是难上加难。实际上，人工智能系统的选择行为能力是算法技术赋予的，属于机械认知而非自由意志的体现。如此，无法推定智能机器人具有刑事责任能力，不能想当然地断言智能机器人可以取得刑事责任主体地位。

　　其四，智能机器人根本不同于作为个人集合体的单位，类比单位犯罪没有说服力。肯定论的逻辑是，智能机器人的自由意志与人类的意志联系更加密切，且智能机器人的意志存在超越人类意志的可能性。因此，智能机器人的意志的自由程度比单位更强，没有理由否认智能机器人的自由意志。换句话说，既然社会并不排斥对于纯粹拟制主体（例如法人）加以处罚，就不应排斥将智能机器人拟制为犯罪主体加以处罚。肯定论显然忽视了单位（法人）本身并没有自由意志的事实。所谓单位的意志，其实是单位中自然人（法人机关）的意志，而法人机关由真实的人组成，当然具有自由意志。而智能机器人犯罪中并无自然人存在，何谈人的自由意志？所以，用单位作为类比，得出智能机器人具有自由意志，并拟制为犯罪主体的结论不能成立。

　　其五，肯定论所设想的处罚智能机器人犯罪的方式根本不具有刑罚的惩罚属性和预防犯罪的效果。刘宪权教授提出为智能机器人犯罪增设三种特别刑罚措施，即“删除数据”“修改程序”“永久销毁”。众所周知，作为刑罚方式，从功能上讲必须具有惩罚的属性，从功利角度讲，必须能够产生一般预防和特殊预防效果。智能机器人无痛感，无道德感，对其实施上述所谓刑罚措施根本就不可能成为一种“痛苦”，也不可能达到预防犯罪的效果。针对智能机器人设计的这些刑种，仅是对智能设备的维修工作，实现的是一定的管理功能。将其纳入刑法会使刑法的性质、功能遭到严重破坏。按照这些手段进行刑罚处罚，将使刑法沦为“机器维修手册”。

　　其六，肯定论存在自相矛盾之处。例如，刘宪权教授一方面认为，人工智能的奇点降临后，将进入机器人完全独立、自主进化的时代。在此时代中，机器人可能会超越人类，机器人或与人类共生，或操纵、压迫、奴役甚至灭绝人类；另一方面又认为，可以为强智能机器人立法，给其套上“缰绳”。人工智能的“法律主体地位的决定权仍在人类。而不可能自然具备”，人类“不可能先赋予其主体地位，并等到其出现有害活动后，才以讨论其刑事责任的方式来解决”。

　　综上，肯定论所持立场仅具有结论，未被充分有效论证，前提不存在的相应结论不能成立。因此，否定论更为合理。尽管人工智能的进步在大众话语中引发了越来越多的兴奋和焦虑，但应当肯定的是“刑法是为了人制定的”，我们不应杞人忧天地担心所谓“奇点”的到来，不应通过超前立法赋予其刑事责任主体地位。

三、人工智能刑事主体地位否定论的实践展开

　　理论的研究不能仅满足于抽象的考察，还应当致力于解决现实问题。目前，关于人工智能刑法的具体适用问题主要涉及侵财犯罪、自动驾驶、医疗人工智能三个领域。对人工智能是否具有主体地位的探讨影响着侵财犯罪的定性、自动驾驶的风险防范以及医疗人工智能的责任分配。

　　（一）否定论之于侵财犯罪定性问题的止争

　　应该说，如今以自动柜员机为代表的人工智能已经广泛应用于人类的各种财务处理活动中。为此，刘宪权教授创造性地提出，ATM机是“机器人”，存在被骗的可能性。理由在于ATM机具有“识别”功能，意味着ATM机同样可能因为行为人的欺骗行为产生认识错误。由此，当行为人使用这种手段获取财物时，应被认定为信用卡诈骗罪。而当行为人取得财物仅仅是因为机器的单纯故障，则应当以盗窃罪论处（如许霆案）。吴允锋也指出，“机器人可以被骗”。线上利用手机银行、第三方支付账户侵财、线下利用ATM机侵财的行为，一不符合盗窃罪的基本特征，即主动获取和秘密窃取，二不具备诈骗罪中“处分意思”的构成要件。换言之，这类行为既不在盗窃罪的处罚范围当中，又不能被评价为诈骗罪。因而我国现有立法存在空白，在司法实践中对于人工智能作为侵财犯罪对象的司法定性存在困境，为此应通过增设诈骗犯罪罪名进行及时回应。

　　笔者持人工智能自由意志否定论的立场，对上述观点并不认同。“机器人”只能是拟人化的一种称谓，现实中不存在既不是“机器”也不是“人”的所谓机器人。“机器”没有处分意识，“机器不能被骗”可谓全世界的通识。德日刑法中的所谓利用计算机诈骗罪，其实不是“诈骗罪”，而是规制盗窃财产性利益的犯罪。所谓利用手机银行、支付账户窃取他人绑定的银行卡中的存款，以及捡拾他人银行卡后在自动柜员机上取款等所谓利用人工智能侵占案件，只要不存在自然人的处分行为，就不符合诈骗罪的构成要件。但是，此类行为完全符合盗窃罪的构成要件，以盗窃罪进行处罚符合罪刑法定的要求。上述所谓不符合盗窃罪构成要件的观点，仅是先验地认为“盗窃只能秘密窃取”而得出的结论。

　　在人工智能时代，越来越多的财务处理工作被人工智能系统所代替，例如超市的自助结账装置、手机银行、支付宝结算系统、淘宝购物退货系统。在这种现实背景下，还坚持“机器不能被骗”“必须存在自然人的处分意思”，以此严格区分盗窃罪与诈骗罪的观点，恐怕已不合时宜。例如，将普通牙膏塞到黑妹牙膏盒子里结账，若是人工扫码结账，“因为存在自然人的处分意思”，所以成立诈骗罪，若在无人执勤的自动结账处扫码结账，则“因为不存在自然人的处分意思”，不符合诈骗罪的“处分意思”要件，而只能成立“不需要处分意思”的盗窃罪。又如，淘宝网上购买名牌运动鞋后，用普通运动鞋退货，如果退货系统的后台存在人，则“因为存在自然人的认识错误”而构成诈骗罪，但如果退货完全由电脑系统自动完成，则“因为不存在自然人的认识错误”，而只能构成盗窃罪。这恐怕过于形式化了。

　　应该说，在德日法中之所以强调成立诈骗罪必须有“人的认识错误和处分意思”和“机器不能被骗”，是因为其刑法中未规定财产性利益的盗窃，当对象系财产性利益时，有没有“处分意思”决定其是否存在犯罪，所以“兹事体大，不可不察”。但在我国，财产性利益也可以成为盗窃的对象。当对象系财产性利益时，有无“处分意思”关系到法定刑完全一样的盗窃与诈骗（盗窃罪多出了四种特殊盗窃），而非是否成立犯罪的决定性因素。因此，在我国强调“处分意思”的有无，实际意义很有限。既然如此，因应人工智能时代的要求，不应再固守诈骗罪的“处分意思”要件，无需严格区分盗窃与诈骗，而应将盗窃罪看作是夺取型财产犯罪的兜底性犯罪，当“是否具有处分意思”，即盗窃与诈骗难以界分时，可直接以盗窃罪论处。

　　（二）否定论下自动驾驶的分级化归责方案

　　所谓自动驾驶问题，是自动驾驶车辆发生交通事故后，在自动驾驶车辆的制造者、使用者等不同主体之间法律责任的分配问题。实际上，自动驾驶的概念可能存在误导性，因为自动驾驶存在不同等级，或者说“自动化”的程度存在差异。

　　在我国，2018年2月，上海市公安局等部门联合颁布的《上海市智能网联汽车道路测试管理办法（试行）》规定自动驾驶分三个等级：由系统负责全部驾驶工作，驾驶者需要在系统提示时接管驾驶，即“有条件自动驾驶”；由系统负责全部驾驶工作，即便系统出现提示，驾驶者也不必响应，系统能够自动响应并继续操控车辆安全行驶，即“高度自动驾驶”；由系统负责全部驾驶工作，车上可以没有乘客或者有乘客却不需要具备驾驶能力，因为不论在何种情境下都不需要驾驶者进行操作，即“完全自动驾驶”。

　　笔者赞成上海市对自动驾驶的分类，自动驾驶的责任分配可以按照这一分类施行分级化安排。不过，首先应当明确，无论哪一种自动驾驶，都不应承认自动驾驶系统本身具有刑事责任主体地位而追究其刑事责任。另外，驾驶人员只需在他所能掌握和控制的自动化系统范围内承担责任。

　　对于“有条件自动驾驶”，一般来说，由于驾驶员需要在系统提示时承接驾驶工作，除非自动驾驶汽车和系统设计本身存在严重缺陷，因违反交通运输管理法规发生交通事故的，应由驾驶员承担交通肇事罪刑事责任。“有条件自动驾驶”的归责方案容易被人接受，“高度自动驾驶”和“完全自动驾驶”两种情形则是目前关于自动驾驶刑事责任讨论的焦点。

　　虽然学界普遍认为，在全自动驾驶中，“驾驶员”的真实身份其实就是“乘客”，其不应承担交通肇事罪的刑事责任，而只可能追究自动驾驶汽车的设计者与制造者的生产、销售伪劣产品犯罪的刑事责任。但问题是，道路交通的参与方（被害人）就应承受自动驾驶的后果吗？由于90%的交通事故都是人为原因造成的，而自动驾驶技术正是以防撞为目标而编写程序的。因此允许自动驾驶对社会来说利大于弊，而且自动驾驶是社会发展的必然趋势，故而自动驾驶可被认为是一种“被允许的危险”。对于交通肇事的被害人而言，更为关心的不是判处肇事者多少年刑罚，而是其遭受的人身财产损失能否在物质上得到最大限度的弥补。因此，对于“驾驶员”主观上无过错，因完全信赖自动驾驶而导致交通事故的，应当通过自动驾驶汽车上路前的强制性保险的缴纳，以及因自动驾驶汽车设计、制造本身存在一定缺陷导致交通事故的汽车设计者与制造者所承担一定的产品质量赔偿责任，来弥补被害人所遭受的人身财产损失。

　　至于“高度自动驾驶汽车”发生交通事故的责任，要根据车上“驾驶员”有无违反注意义务、有无过错，进而决定其应否承担交通肇事罪刑事责任。若是因为自动驾驶汽车设计、制造本身的缺陷导致交通事故的，只能追究设计者与制造者的产品缺陷的刑事责任和民事责任。

　　（三）医疗人工智能主体地位被否定后的责任分配

　　自人工智能被引入医疗领域，医疗人工智能成果不断问世。目前，人工智能已经被应用于诊疗、治疗等多个医疗环节，在医疗活动中发挥越来越大的作用。在我国，发展医疗人工智能早已上升到国家战略地位。为平衡法益保护与医疗人工智能健康发展，必须处理好医疗人工智能的法律问题。医疗人工智能的特殊之处在于，其相较于传统的医患关系，增加了与人工智能产品相关的一系列主体，包括医疗人工智能产品的设计者、制造者等。因此，所谓医疗人工智能的法律问题，即如何平衡医者（包括医务人员、医疗机构）、患者、涉医疗人工智能的主体（包括医疗人工智能产品的设计者、生产者等）之间的利益问题，主要表现为这些主体之间的法律责任的分配问题。首先应当明确，医疗人工智能只是辅助人类医疗的工具，与医院的CT等检查设备一样，属于“医疗器材”的范畴，不具有所谓的“自主意志”。因此，医疗人工智能并没有相当的辨认、控制能力，即不具备刑事责任能力，不能成为医疗事故罪等刑事犯罪的主体。医生因为相信医疗人工智能而做出了错误诊断造成医疗事故的，承担刑事责任的主体只能是医生，可追究医生医疗事故罪刑事责任。若因医疗人工智能产品本身的缺陷所致，则应追究医疗人工智能产品的设计者、生产者的产品质量责任。

四、总结

　　人工智能刑法研究的争论焦点在于应否赋予人工智能刑事责任主体地位。肯定论认为，在可能到来的强人工智能时代，智能机器人会在人类设定的程序、安排的计划外依照其自主的、不被操控的意志选择性地实施危害社会的行为，因具有辨认和控制能力，应承认强智能机器人的刑事责任主体地位。这些看起来环环相扣的推理，其实如多米诺骨牌，前提不存在，结论也就不能成立。我们完全没有必要超前为所谓强智能机器人进行刑事立法，增设新罪名和刑罚种类。

　　如今人工智能已经广泛应用于财务处理、自动驾驶、医疗等领域。我们不应承认“人工智能能够被骗”、人工智能系统本身能够成为刑事责任主体和被追究交通肇事罪、医疗事故罪等刑事责任。在人工智能被广泛应用的今天，考虑到我国盗窃罪与诈骗罪法定刑不存在差异，严格区分盗窃与诈骗，并无实际意义。在“是否具有处分意思”，即盗窃与诈骗难以区分时，应直接以盗窃罪论处。对于“完全自动驾驶”，因为不存在“驾驶员”，或者“驾驶员”因完全信赖自动驾驶系统而导致交通事故的，不应追究自动驾驶使用者的刑事责任。对于被害人的人身财产损失，只能通过保险公司和自动驾驶系统缺陷产品的设计、制造者的产品质量赔偿责任来弥补。医疗人工智能只是医生进行诊疗的辅助工具，属于医疗器材的范畴。医生因为相信医疗人工智能而做出错误诊断造成医疗事故的，应由医生承担医疗事故罪刑事责任。若医疗人工智能产品本身存在缺陷，医疗人工智能产品的设计、制造者应承担产品质量的刑事责任和民事责任。

-END-责任编辑 | 陈楠
审核人员 | 梁学曾 张文硕本文声明 | 本文章仅限学习交流使用，如遇侵权，我们会及时删除。本文章不代表北大法律信息网（北大法宝）和北京北大英华科技有限公司的法律意见或对相关法规/案件/事件等的解读。
▼往期精彩回顾▼

关注下方公众号，获取更多法律信息

点击「在看」，就是鼓励