刘仁文、曹波：人工智能体的刑事风险及其归责

作者 | 刘仁文，中国社会科学院法学研究所研究员、刑法研究室主任；曹波，中国社会科学院法学研究所博士后研究人员，贵州大学法学院副教授。

来源 | 《江西社会科学》2021年第8期。

摘要：人工智能在推动人类社会智能化变革的同时，其不确定性（自动性）所衍生的侵害人类法益的刑事风险是亟待认真对待的“真问题”，绝非凭空臆造、危言耸听的“伪问题”。对人工智能体被滥用于实施犯罪的刑事风险，应根据现有刑事归责原理，按照具体行为方式以及主观罪过形式，分别追究人工智能体背后的算法设计者、产品制造者与使用者（管理者）故意或过失犯罪的刑事责任。对人工智能体脱离人类控制侵害法益的刑事风险，赋予人工智能体以刑事责任主体地位的肯定论归责方案，存在持论依据及论证路径方面的诸多误区。以刑罚规制人工智能体刑事风险缺乏适宜性，应当借鉴“科技社会防卫论”，通过建构保安处分机制，由司法机关在参考专业技术意见的基础上，对严重侵害人类利益的人工智能体适用以技术性危险消除措施为内容的对物保安处分，回避以刑罚规制人工智能体刑事风险必须具备可非难性的局限，进而为人工智能的发展预留必要的法律空间。

关键词：人工智能体；刑事风险；刑事归责；刑事责任主体；对物保安处分

人工智能的概念虽然早在20世纪50年代即被提出，但其后人工智能的发展和研究却两度遭遇“寒冬时期”，终在21世纪初迎来第三次发展浪潮和研究高峰。近年来，信息社会和知识时代的来临使得信息以惊人的速度膨胀，人类处理浩如烟海的信息的现实需求催动了大数据技术以及智能技术的发展，大有将人类文明从农业文明-工业文明-网络文明的三个递进阶段推入第四个阶段“人工智能文明”之势。受人工智能技术研发以及法律治理需求的影响，中国的法学理论和法律实务界对人工智能表现出强烈的兴趣，刑法领域的研究成果也呈现爆炸式增长的态势，关于人工智能体能否成为刑事责任主体、其刑事责任应采取何种归责模式，甚至对人工智能体应当适用何种“刑罚”等迅速成为热门话题。

一、人工智能体的刑事风险是“真问题”

得益于深度学习、大数据、大规模计算三位一体的联合驱动，人工智能势不可挡地从封闭的实验室走向开放的商业应用道路，其蕴含的强大赋能效应，使得智能思维、智能工厂、智能设备、智能产品及智能管理等不断涌现，正推动人类社会迈入智能时代。不过，如同促进人类社会发展的其他科学技术一样，人工智能在将人类从繁琐纷杂、枯燥单调的工作中解放出来、推动人类社会完成跨越式变革的同时，其内在的不确定性也衍生出影响人类生存和发展安全的现实及潜在风险，客观上引发人类对人工智能安全性的极大忧虑。

然而，对于刑法应否介入人工智能刑事风险、人工智能体能否成为刑事责任主体等问题，目前中国刑法学界不乏否定声音，甚至有学者就刑法学界对人工智能的浓厚兴趣提出火药味甚浓的批评，认为人工智能法学研究出现违反人类智力常识的“反智化现象”。该学者指出，当前关于人工智能的法学研究其实是以“伪问题”代替“真问题”；学者们关于人工智能所谓的“忧患意识”，实则只是依靠无数假想拼凑起来的幻影，只是在用别人的“噱头”吓唬自己；在人工智能法律风险的应对上，当前的研究停留在缺乏教义支持的对策论层面，往往就事论事、毫无体系；主张人工智能可承担刑事责任的观点根本违背人类制定刑法的目的理性，人类对自由刑、死刑的痛苦感来自天然的肉体和心理，机器人没有痛感，在这一点上它连一只有触觉的蚂蚁都不如；对犯罪人工智能体科处刑罚违背刑法谦抑性原则，“法学家从来没有考虑过人类是否能够为机器人成功搭建起道德或伦理的规范体系，而只是简单粗暴地动用刑罚，面对人工智能等高端技术时总是如此急不可耐。”此外，也有学者以人工智能技术发展的阶段性特征为由，认为“讨论人工智能的刑事规制其实是一个伪命题”。

上述批判意见的确为当前相对激进的人工智能刑法学研究提供了理性反思的契机，但断言人工智能刑事风险乃“伪命题”、研究人工智能体刑事归责系以“伪问题”替代“真问题”却不足取，因为它无视人工智能潜在的负面效应给人类带来的危险和危害，犯了从一个极端走向另一个极端的错误。

（一）人工智能内在之刑事风险具有不容否认的客观真实性

人工智能体是否具有刑事风险决不是法学学者的臆想或者断言，而应当由人工智能运行的实际情况以及技术专家的判断来证实。在研发和应用的实践中，人工智能因其自动性和自主性运行特征或程序故障而致人死伤的事例时有报道。如：2015年德国一名大众汽车厂员工在工作中被机器人抓住并压死在金属板上的“智能机器人杀人事件”；同年，中国发生利用人工智能技术破解互联网验证码策略的打码平台非法获取公民信息的“全国首例利用人工智能犯罪案”；2016年装载自动驾驶系统的特斯拉汽车因出现误认而造成全世界首宗自动驾驶系统致人死亡的车祸，特斯拉CEO伊隆-马斯克也明确强调“人工智能是人类文明生存的根本风险”，并呼吁政府迅速而坚决地进行干预、监督人工智能技术的发展；2018年美国亚利桑那州发生优步自动驾驶车撞死行人的事故。此外，以人工智能深度学习为技术支撑的深度伪造（DeepFake）已带来严重的社会风险，尤其是针对公众人物的深度伪造，有对社会秩序和国家安全造成严重冲击与损害的可能。诚然，人工智能体侵害人类的事例尚未普遍发生，却也充分说明能够跟随外部环境变化而自我调整的人工智能体内含失去人类控制而侵损人类法益的危险，决非主观臆断、危言耸听。

从国内外人工智能技术专家的相关研究来看，人工智能内在的不安全性、不稳定性以及具备深度学习能力的强人工智能脱离人类程序控制侵犯人类、反噬人类的可能性和危险性都是得到认可的。例如，英国萨塞斯大学认知和计算机科学学院前院长、有着“人工智能领域的女性牛人”之称的玛格丽特·博登表示，“人工智能已经引起了人们的担心。未来的进步肯定会带来更多问题，所以对人工智能长期安全的焦虑也是非常必要的。更重要的是，它的短期影响也不容忽视。”值得注意的是，牛津大学人类未来研究所曾于2015年发表题为《威胁人类文明的12个风险》的报告，将人工智能的崛起与核战争、巨大火山喷发并列为人类未来的威胁之一。英国伦敦大学学院Dawes未来犯罪案研究中心于2019年2月召开“AI与未来犯罪”研讨会，组织来自学术界、公共部门、私营部门领域具有专业知识的31名代表对人工智能可能涉及的犯罪风险进行科学评测。考德威尔等整理研讨会相关材料，形成并发布研究报告《基于人工智能的未来犯罪》，对人工智能的日益普及所产生的潜在犯罪和恐怖威胁进行分类，并根据预期的受害者损害、犯罪收益、犯罪可实现性和打击难度对相关威胁进行排序，最终对18类威胁给予识别和评级。国内也有不少人工智能技术专家对人工智能内在的危险性发出担忧，表示“人工智能已经不是科幻小说和电影讨论的话题了，现实马上就在眼前。我们必须要把可能的危机与机遇摆在人类的面前，这是人类的权利、科学家职责，我们不能因对未来的恐惧而回避，也无法回避，也不能为了眼前看得见的利益而忘命。”

由此可见，如何妥善应对人工智能的这种内在危险或威胁，科学分配人工智能体侵害人类法益的法律责任，是包括刑法在内的法律体系必须认真对待的“真问题”，至于采取何种刑法措施（刑罚或保安处分），则是刑法关于人工智能刑事风险应对的措施之争，属于解决问题的具体方式，而不涉及对人工智能刑事风险是否为“真问题”的评判。申言之，批评者关于人工智能刑事风险属于“伪命题”的看法既无视人工智能已经带给人类损害的客观事实，还因其反对授予人工智能体刑事责任主体地位的理论主张，误解人工智能刑事风险的具体内容。然而，是否授予人工智能体刑事责任主体地位与人工智能刑事风险是否属于“伪命题”系两个不同层面的议题。理论界就不乏这样的学者，他们即便不赞同赋予人工智能以独立的刑事责任主体地位，却依然十分关注人工智能刑事风险，并积极构建责任分配机制予以应对。

在我们看来，由于评价标准的不同，人工智能体是否会像人类一样直接实施犯罪行为可能存在一定的争议，但人工智能体卷入犯罪而被作为犯罪工具予以滥用或者作为犯罪对象被攻击均属可能，批评者在一定意义上误解了人工智能刑事风险的内容和意涵。正如刘宪权回应批评者时所称，“并非在当今的弱人工智能时代不存在刑事风险，而是批判者为批判或否定别人的观点才对弱人工智能时代的风险采取熟视无睹的态度。就此而言，人工智能技术带来的刑事风险不是法学研究者‘依靠无数假想拼凑起来的幻影’，而认为人工智能技术没有带来刑事风险似乎才是批判者闭目塞听所造成的‘幻觉’。”应当承认，批评者大多强调积极运用既有刑法教义学原理在现行刑法的体系框架下解决人工智能损害法益的刑事责任分配问题，这其实已经径行肯定了人工智能内含损害人类法益的可能，只是认为此种可能性不需要刑法专门进行新的规制。

（二）刑法谦抑性难以否定刑法规制人工智能风险的必要性

刑法谦抑性乃刑法最基础、最独特的属性之一，但却不知从何时开始，在讨论刑法是否应当介入某种新行为或者新领域的规制时，谦抑性总会被提出来作为反对刑法规制的理由，以至于使人产生如下印象：刑法谦抑性已然成为反对刑法介入社会生活的标配性理据，动辄被用于批判刑法新增罪名或者重刑化的立法转向。刑法谦抑性在人工智能风险的法律规制研讨中扮演的角色既有积极的维度，也有消极的侧面，如有学者以违反刑法谦抑性为由反对赋予人工智能法律人格或者刑事责任主体地位，有观点表示刑法对人工智能刑事风险的规制牺牲了刑法谦抑性。但是，不论积极抑或消极，学者们对刑法谦抑性的理解整体是在缓和、否定刑法介入人工智能风险规制意义上展开的，强调人工智能属于新兴科技，刑法前置法以及伦理道德等尚未实现对人工智能的研发和运用提出普世性的明确规制标准，人工智能刑事风险的类型及表现仍有待进一步明确，刑法此时介入人工智能刑事风险的规制过于急切。不过，人工智能刑事风险并非都是尚未明晰的新兴风险，人工智能体被用作于犯罪工具以及被作为犯罪对象的风险已被证实，这些风险给人类利益带来的损害丝毫不亚于甚至远超传统犯罪工具或者传统犯罪。因此，我们在运用刑法谦抑性对刑法是否应介入人工智能风险进行评判时需要慎重，应防止对刑法谦抑性的不准确把握和对人工智能刑事风险的不精确识别导致刑法应介入却因谦抑性的不正当主张而未介入。

毋庸置疑，刑事机制最具严厉性且规制成本最高，因而总是在民事侵权责任机制及行政处罚机制难以达到规制效果时，才动用刑事机制介入特定行为，以实现保护法益的目的。“保护法益的手段多数存在，刑罚是制裁手段中最严厉的，而且其社会成本也大（常被比喻成副作用强的药），因此，使用刑罚应该限于其他制裁手段不充分的场合。”刑法具有谦抑性的内在品格，是辅助性的法益保护法，不追求规制任何形式、任何程度侵害法益的行为，但这绝不意味着刑法应对人工智能的客观危险熟视无睹、置若罔闻。“刑法的谦抑性原则应当遵循，但也不能无视当今科学技术的高速发展给人类社会所带来的完全不同于以往的冲击。人工智能技术的发展特别是未来可能到来的强人工智能，人类如果对其应对稍有不慎即可能遭遇灭顶之灾。”在相当意义上，刑法谦抑性的要旨在于规范国家刑罚权的行使，防止国家刑罚权过分或不当侵入公民社会生活，强调合理划分不同法律部门在调整特定行为的具体分工，实现特定行为法律规制系统内部的协调性与互补性，而限定刑法规制范围却非刑法谦抑性的必然要求，刑法规制范围也并非越窄越好。“尽管刑法谦抑主义特征仍然需要予以重视，但这并不等于说，刑法就是消极的，甚至是无为的。”当特定行为具备值得刑法规制的必要性和可行性时，刑法应当果断地介入该行为的规制，以发挥刑法有效且有力的社会规制机能。如果特定危险客观存在并严重威胁法益，适当扩充刑法规制范围以及时介入该危险的防控和治理，正是刑法作为保护人类法益的最后一道防线的题中之义。既然人工智能带给人类社会的刑事风险客观存在，运用刑法给予应对必定是刑法切实承担保护法益任务的表现，并不违背刑法的谦抑性原则。

（三）人工智能风险刑法规制需要教义学与立法论衔接互补

人工智能作为人类社会变迁中出现的新技术，人工智能体侵害人类法益无疑为前所未有的新问题，批判论者希冀完全依靠既有的刑法教义学范式在现有刑法体系内充分解决人工智能体刑事归责问题，明显夸大刑法教义学的功能，割裂刑法教义学与刑法立法论之间应有的联系，缺乏方法的妥当性和实践的可行性。“‘伪问题论’通过质疑将来而回避问题本身的论说思路可能并不可取，看不到或者忽视‘将来’的思考也无益于问题的有效解决，因而‘伪问题论’自身的问题意识也存在合理性疑问。”刑法学研究须秉持应有的务实态度和开放理念，对当前人工智能刑事风险的具体内容和样态进行现实性考察以及必要的前瞻性预测，并根据刑事风险属性的差异，给予不同的刑法规制：对刑法规范体系已能较为充分评价的刑事风险，尽可能运用刑法教义学作用范围内进行准确认定和评价；对运用刑法教义学难以在当前刑法规范体系内准确或者全面评价的人工智能刑事风险，应当转变研究视角，通过制定新的罪刑规范予以规制。

就人工智能体侵害法益及其归责问题来看，现有刑法教义学资源能够基本解决自主性较弱的弱人工智能体侵害人类法益的刑事归责问题，但对具有较强（或完全）自主性、具备独立意识和意志的强人工智能侵害法益行为，却难以给予适当的刑法评价和处置，亟需建构性的“立法论”或“对策论”研究，通过引进新型归责模式来解决其刑事责任分配问题。就此而论，人工智能刑法学研究必然属于批判者所谓的“对策论”，只不过该“对策论”决非恣意的“对策论”，而是建立在新的“教义学”基础上的“对策论”，是对现有“教义学”的必要补充和发展。

诚如张明楷所言，“当下经过了一段解释论之后的刑事立法论，可以避免不合理的立法建议，从而对刑事立法起到更好的指导作用。”刑法教义学与刑法立法论衔接互补的研究范式已经在当前刑法学界对人工智能刑事风险及其规制的研究中得到体现。此外，主张通过新增罪名规制人工智能风险的学者必定也采纳以刑法教义学推动刑法立法论和以刑法立法论补充刑法教义学的双向互动研究范式。依此可见，人工智能刑法规制研究应当继续充分释放既有刑法教义学资源的解释张力，在现有刑法规范体系内规范评价人工智能损及人类法益行为的不法与罪责，避免不必要的刑法条文扩张。以此为基础，对超逸刑法教义学作用范围的人工智能刑事风险及其危害，应当制定新的罪刑规范予以规制，促进人工智能刑法规制司法路径与立法路径的衔接与互补。

二、人工智能体的刑事风险及其归责论争

人工智能所带来的刑事风险除人工智能系统成为犯罪对象被不法攻击或操纵外，还有人工智能体被滥用于实施犯罪的工具性风险，如人工智能体被用于非法搜集公民个人信息、实施诈骗犯罪、侵害社会信用等风险，也有人工智能体脱离人类控制而严重侵害人类的风险。后者又可区分为两类：一是缺乏自主意识的弱人工智能体因程序运行偏差、侵害人类的风险，如前述特斯拉自动驾驶汽车致人死亡事例中，装载自动驾驶系统的特斯拉汽车在交叉路口撞上一辆卡车后面的拖车即是因为程序运行偏差所致：它既错以为拖车明亮的白色部分只是天空的一部分，又错以为司机正在注意路况，如果有事发生，他一定不会袖手旁观。二是能够深度学习的强人工智能体，在自主意识和意志支配下实施程序设计之外的严重侵害人类法益行为的危险。

由于缺乏生命权、身体权、荣誉权和财产权，人工智能体一旦作为犯罪对象被其他犯罪主体所攻击，刑法的聚焦点应为人工智能体自身的算法系统（计算机信息系统）及其相应数据的安全。人工智能体的智能属性及其程度取决于人工智能算法，而“成功的人工智能算法需要三样东西：大数据、强大的电脑运算能力，以及优秀（但未必顶尖）的人工智能算法工程师。”在新领域善用深度学习的能力，此三者都是必要的，但其中最重要的还是大数据。如果“喂养”算法系统的数据量越大，人工神经网络获得的样本数据将越多，人工智能体就越能够正确识别出形态，准确辨认真实世界里的东西。当然，人工智能体对算法系统及大数据的依赖也客观上带来算法系统和数据安全的巨大挑战，诱发算法系统与数据安全被不法攻击的危险。对犯罪对象意义上人工智能体刑事风险及其客观危害，应尽可能借助现有刑法罪名体系予以准确评价，即根据行为人行为方式与侵害法益的特征，分别将其认定为刑法分则第六章规定的非法侵入计算机信息系统罪等信息网络犯罪，而当行为人通过破坏人工智能体算法系统或者数据安全操作人工智能体侵犯人类的生命、身体等安全的，可以根据具体犯罪情节，将其认定为以危险方法危害公共安全罪。

在人工智能体被滥用于实施犯罪的责任分配中，犯罪体现的是犯罪人自身的犯罪意志，人工智能体仅作为实施犯罪的特殊工具。“在大多数情况下，算法的背后是人而不是机器在真正发挥决策作用。算法驱动下的人工智能，按照人设定的逻辑，判断、决策、执行各个任务环节。”因此，对于人工智能体犯罪工具风险的刑事归责，应当根据犯罪人滥用人工智能体实施犯罪的客观样态和犯罪人自身的主观罪过形式，对故意设计、制造“邪恶”人工智能体，懈怠注意义务设计、制造严重瑕疵的人工智能体，滥用人工智能体实施犯罪或未尽合理监管义务导致严重危害后果等，分别追究算法设计者、产品制造者与使用者（管理者）的故意或过失犯罪的刑事责任。

例如，人工智能外科医生对病人进行安装新髋关节的手术，手术中人工智体能却出现机械性误差。负责监控手术的人类医生未能尽职地监控手术进程，且无法中途介入以完成髋关节置换术，导致手术不得不提早结束，迫使患者必须进行第二次髋关节置换手术。人类医生原本履行监管义务即可阻断人工智能体内在危险现实化进程，却懈怠监管义务，未能及时发现机械性误差并中途介入完成手术，客观上造成患者髋关节置换不当并需要进行第二次手术，可追究人类医生过失犯罪的刑事责任。不过，“过失意味着不注意，而不注意指的是违反注意义务，也即违反应当为了回避犯罪事实的实现而小心谨慎的义务。”过失犯罪刑事归责的前提要素是具备结果回避可能性，即行为人小心谨慎地履行注意义务，采取回避措施即能够有效地回避法定危害后果的发生，将过失犯罪的刑事归责适用于缺乏结果回避可能性的场合将背离刑法责任主义。据此，如果人类医生尽职地履行监控义务，仍来不及中途介入手术进程，或者即便人类医生中途介入手术进程，仍不能避免人工智能体机械性误差的可能后果，应当以缺乏结果回避可能性为由，将患者因人类医生懈怠尽职监控义务而必须进行第二次置换术的后果认定为不可抗力造成的事故或偶然事件，进而否定对人类医生过失犯罪的刑事归责。当然在此种情形中，人类医生懈怠尽职监控义务符合医疗侵权的构成要件的，不排除从民事侵权的角度考虑追究人类医生的赔偿责任。

在现阶段，人工智能体刑事归责论争的焦点在于：若人工智能产品“变坏”，在运行过程中偏离程序主动或被动侵害人类，该如何分配刑事责任？现代责任主义强调，刑事责任的发动必须具有正当化根据，任何人只能因自己可被非难的行为承担刑事责任。拥有自主意识的人工智能体受其深度学习的指引，在改变自己来适应环境变化的过程中有可能“自主地”“不被预见地”犯下严重侵害人类的“罪行”。在这种情况下，人工智能体研发和运行中所涉及的人类主体都勤勉尽责，所设计和所制造的人工智能体满足合理的产品质量标准，他们与人工智能体的恶行虽有关联但无因果，更无法具体预见人工智能体会严重侵损人类法益，追究其刑事责任将明显抵触现代责任主义。那么，应否肯定人工智能体自身的刑事责任主体地位，以填补人工智能体脱离人类控制而侵害人类风险中可能出现的“责任空白”呢？

对此，肯定论者提出，刑法应重视前瞻预防和风险防控，强调人工智能正深刻动摇传统刑法归责体系及其基础，应从刑事责任能力出发抑或演绎法人犯罪主体法理，根据人工智能体的学习能力和发展代际，肯定具有自主学习能力的智能机器人为“第三类人”“人工人”，赋予其独立刑事责任主体地位，增设删除数据、修改程序、永久销毁等新型刑罚方法，妥善解决人工智能体脱离人类控制、侵害法益的风险中的刑事责任归属问题。与之相对，坚持人工智能体不能成为刑事责任主体的否定论指出，因电子机械运动与人的生理运动之间存在不可逾越的鸿沟，从金属、塑料和指示电极开与关的程序组合中无法产生人的意识。在对人类意识的本质及生成机制缺乏透彻理解的情况下，无论是符号主义还是联结主义，都不能模拟出人的意识。即使假设强人工智能已经到来，考虑对其增设刑罚种类也意义不大。

综合肯定论与否定论来看，否定缺乏自主意识和意志的弱人工智能体的刑事责任主体地位已成为学界共识，论争主要聚焦于强人工智能体是否可以成为刑事责任主体。肯定论者立足人工智能体本身的道义性，主张强人工智能体已经超越工具理性的范畴，成为能够通过深度学习形成自主意识并在其侵害人类法益的过程中实现其自主意识的特殊主体。“现有的罪责理论并不排斥人工智能的罪责，甚至可能发展出一种合理的客观标准作为人工智能罪责能力的判断依据。在此基础上，至少将人工智能主体作为一种拟制的法律主体置于刑法的范畴之内是没有问题的，甚至将其作为道德主体的可能性在事实和逻辑层面也是可以成立的。在人工智能主体具备足够的理性能力的前提下，对其科处刑罚是有意义的，完全符合刑罚目的。”否定论者则继续秉承人类中心主义理念，强调“把人看成是自然界唯一具有内在价值的事物，并理所当然地把人看成是一切价值的尺度，人以外的事物不具有内在价值而只有工具价值，它们理应为人类的利益服务。”人工智能体与人存在明显区别，人工智能体所拥有的“智能”只是人类对于其能够在人类缺乏详细预设的情况下自主完成任务能力的一种表述，并非人类“智力”。 

三、不宜以刑罚来规制（强）人工智能体的刑事风险

蕴含强烈规范性谴责和非难的刑罚乃犯罪之最基本、最主要且最核心的法律后果，建构新型“刑罚”以实现对人工智能体自动性运行可能侵害人类法益的刑事风险进行刑事归责似乎是最直接的选择。然而，主张赋予人工智能体（特别是强人工智能体）以刑事责任主体地位，运用刑罚非难、制裁“犯罪”人工智能体以规制强人工智能体刑事风险的肯定论归责方案，虽对现代科技所带来的刑事风险保持了值得肯定的高度警惕，其重构刑事责任理论模型及刑罚措施对完善现行刑事责任理论与刑事制裁体系也具有启发意义，但却存在持论依据及论证路径方面的诸多误区。

（一）误将刑事责任能力视为刑事责任主体地位的充分条件

肯定论者普遍认为，若人工智能体具有“独立意志”“辨认能力和控制能力”，能够“为了实现自己的意志、自主决策并自主实施”行为，或具有“自主性”或“拥有自我的意识”，便符合刑事责任主体的条件。但且不论人工智能体能否真切地理解其所感知事物的真实意义，即便暂时承认能够深入学习的人工智能体具有刑法所要求的辨认和控制能力，也不应据此肯定人工智能体的独立刑事责任主体地位。

的确，刑事责任能力是行为人辨认和控制自己行为的能力，行为人只有在能够辨认自己行为性质及其后果并且能够自由选择是否实施犯罪时才承担刑事责任；而刑事责任主体是实施刑法规定的犯罪行为、值得刑法非难与谴责的刑事责任承担者。刑事责任能力仅为刑事责任主体地位的必要条件而非充分条件，具备独立刑事责任主体地位的主体必然具有刑事责任能力，但具有刑事责任能力的主体却并不一定拥有独立刑事责任主体的地位。“具有‘辨认能力和控制能力’的不止是人类，如家养和野生动物虽有以上能力，但都不是犯罪主体，应当将以上能力限定为超越生物意义的、主要是与人类社会规范相关的‘辨认能力和控制能力’，同时，犯罪主体要排除动物等非人类创造物。”肯定说一味将人工智能体与人的特征进行对比，论证人工智能体具有刑事责任能力的可能性，忽略刑法理论中责任主体归根结底只能是人的这一最基础最核心的要素，走入以偏概全、逻辑错乱的误区。

（二）混淆“自主意识与意志”和辨认与控制能力

传感器、反应器及无线通讯技术的发展，使具有深度学习能力的强人工智能体可以感知外界环境的变化，并自主做出既可能是符合程序设定也可能偏离设定程序的反应，获得超越人类的“自主意识与意志”。如采用强化学习算法的AlphaGo Zero在零人类经验的情况下，通过自我训练即可“随机应变”，最终在自我训练三天即以100:0的战绩完败曾经战胜韩国棋手李世石的AlphaGo，在与人类排名第一的棋手柯洁的人机大战中也以3:0的战绩取胜。经由深度学习、自主运行而产生的“自主意识与意志”被肯定论者认为具有“辨认能力和控制能力”，甚至强调“与人类相比，强人工智能产品具有更强的控制能力和可培养的辨认能力”。

以辨认与控制能力为核心的人类思维、情感、心智是人类与其他生物最明显的区别之一，也是人类自身尊严和奥秘所在，与人工智能通过学习、归纳和推理表现出的“逻辑思维”“物理理性”大相径庭。肯定论者将“自主意识与意志”和辨认与控制能力予以等同，无视人工智能与人类智能的客观差异，曲解刑法中辨认与控制能力的实质。对此，斯坦福顶尖人工智能专家杰瑞·卡普兰曾发出警示：“人们倾向于认为，大部分人工智能系统和特殊的机器人类似于人类的大脑和肌肉，虽然可以理解，但是这样的想法却是很危险的。长期以来，人工智能领域一直在利用我们对于人格化对象（看起来像我们或者行为像我们）的自然喜好，因为它们可以吸引人的注意力或吸引投资。但同时这样的对象也会误导人们，让人们相信及其比它们实际上更像我们，并进一步假设它们有理解能力并会遵守我们的社会习俗。”人作为社会性存在，并非机械、物理性地参与社会交往实践，刑法中人的辨认与控制能力均具有强烈的社会性和规范性，不是纯粹感知到“有”或“无”“存在与否”等事实特征，而是对行为性质及其后果的规范认知并以此为前提有意识地选择为或不为特定行为，以符合其参与社会交往和实现自身人格的需要。刑法设定和追究刑事责任旨在，以非难违反刑法规范的行为并制裁其行为主体的方式命令人们遵从刑法的规范。显然，唯有以具有规范性辨认和控制能力、能够理解刑法规范意义的人为对象方能实现刑事责任的内在目的。

与此相关，人工智能体基于深度学习做出表现于外部世界的反应或举动也难以认定为刑法中的“行为”，缺乏值得刑法处罚的对象。刑法中的行为是在自由意识和意志的支配下所实施的具有社会意义的外部动作，“在目前的发展状态下，似乎人工智能产品的行为都很难被归入行为的范畴内。即使我们把行为的‘身体’维度排除在外，这一行为的定义永远都不适用于机器，智能主体的行为既不能被视为‘与社会相关’，也不能被视为刑法意义上的‘自愿’”。 

（三）不当演绎单位作为独立刑事责任主体的法理

除将人工智能体深度学习产生自主意识和意志的能力视作刑事责任能力外，肯定说还演绎单位作为独立刑事责任主体的法理基础，表示“自然人与智能机器人之间最大的区别在于自然人有生命，而智能机器人没有生命。但是没有生命的单位可以成为刑事责任主体，这就意味着‘生命’并不是成立刑事责任主体的必备要件。” 不过，“法人是法律拟制的产物，没有法律的拟制，法人的任何一种行为均可以还原为自然人之行为。而人工智能机器人却是实实在在的事物，有没有法律的拟制均为客观的事物。换句话说，法人是法律之子，而人工智能是自然之子，两者存在事物本质上的差异。”当前单位刑事责任主体地位的取得仍以自然人为基础，未超逸自然人责任观念的基本范畴。

单位承担刑事责任的前提是依法成立的单位在“单位意志”的支配下由单位成员出于单位利益的需要实施刑法规定的犯罪行为，并将犯罪所得的利益归属于单位。其中，与人工智能体的明显区别有三：一是单位的责任主体地位得到民法或经济行政法等刑法前置法的确认，而人工智能体却未获得法律人格。虽然域外人工智能体有被授予法律人格的成例（如2010年日本富山县接受陪伴机器人Paro的户籍登记请求；2017年沙特阿拉伯授予人形机器人Sophia国籍，承认其公民身份），但却被包括人工智能科学家在内的各方人士更多地认为是一种公关噱头，一场科技领域的作秀，绝非对人工智能体法律主体身份的真正肯定。在刑法前置法尚未认可人工智能体法律主体地位之前，肯定论确有抵触刑法谦抑性之虞；二是单位犯罪须在单位意志支配下实施，但单位意志仍由自然人主导，是单位内部成员意志的集中体现且由单位成员具体执行，非在自然人毫不干涉的情况下自主形成；三是单位犯罪的犯罪利益应归属于犯罪单位，但人工智能体缺乏权利主体资格，难以实际拥有“犯行”所带来的“犯罪利益”，也难以为“犯罪”付出相应的“刑罚代价”。事实上，有学者在考察单位责任的实质根据后正确地指出，“各种学术观点中的公司刑事责任，无非是某一部分自然人的责任，即便强调责任的整体性，亦是自然人责任的不同表现形式。公司罪责并非对传统责任论的突破，也当然不能成为肯定机器人刑事责任的根据。”故而，以单位与人工智能体均为无生命体而单位却拥有刑事责任主体地位为由，主张人工智能体应被赋予独立刑事责任主体地位，缺乏令人信服的说服力。

（四）新设刑罚方法难以切实发挥刑罚机能、实现刑罚目的

为防止赋予人工智能体独立刑事责任主体地位但既有刑罚方法却无法有效惩治犯罪人工智能体，肯定论者还特别按照人类刑法所规定的刑罚方法，创造出删除数据等新型刑罚方法，用于惩治犯罪人工智能体，以实现人工智能体罪责自负的要求。然而，这些新型刑罚方法发挥刑罚机能、实现刑罚目的之实际效果并非不值得怀疑。“不论设计何种刑罚措施，基于人工智能特殊的存在形态，任何物理意义上的刑罚手段都无法实现应有的惩罚效果，而从对被害人内心安抚角度审视，当前人们在观念上同样难以通过对机器施加刑罚措施得到心灵上的慰藉。”其实，删除犯罪人工智能体的“犯罪记忆”，能否保证该人工智能体不会如前次犯罪那样重新走向犯罪的道路，毕竟具有深度学习能力的人工智能体能够在算法设计之外自主行动？修改人工智能体的程序如果确有效果，为何不在人工智能体算法设计过程中即修改相应的程序或者径直加入避免侵犯人类或侵犯人类即自动报废的程序要求？按照肯定论者对人工智能体可能脱离人类控制甚至淘汰、奴役、消灭人类的设想，人类是否有足够的能力和实力彻底销毁严重犯罪的人工智能体呢？凡此种种，均需得到肯定论者应有的重视。

事实上，肯定论为规制人工智能“反噬”人类的刑事风险，提出应当修正、解构甚至否定人类中心主义的立场，在人类之外肯定存在其他类型的法律主体，赋予人工智能体特别是强人工智能体以独立性刑事责任主体地位 ，认为“在智能时代，修正的人类中心主义才是更好的现实选择”，以此破解人工智能体刑事风险现实化过程中可能出现的“责任空白”难题。然而，人类中心主义是人类所建构的各种规范性制度取得最终实效的基本保障和内在缘由，肯定论者主张缓和或修正人类中心主义在相当程度上弱化了人类的主体性地位和价值，是对人类价值与人格尊严的不当放弃，得不偿失，非明智之举。当前，坚持人类中心主义已成为人工智能界的普遍共识，即人工智能研发与应用必须以人为本，以追求并扩大人类福祉为宗旨。人工智能体脱离人类控制严重侵害人类法益的归责方案理应继续坚守人类中心主义的立场，坚持人工智能体的工具理性，意识到人工智能体缺乏人心人性，其外部行动建立于对外部世界客观事实的感知而非价值意涵的理解，是深度学习能力及算法系统驱动下的自动性反应，与人际间社会交往互动存在明显区别。同理，人工智能体对人类法益的侵害既非人工智能体自由意志的外部表现，也不是能够避免侵害情况下有责任地违反规范，而是算法系统运行的必然结果，缺乏被刑罚非难的主体适格性。

四、可能的方案：运用保安处分抗制（强）人工智能体的刑事风险

就刑法作用机制的具体构造来看，刑法对社会关系的规制是借助刑罚方法非难行为人违反禁止性规范主动攻击特定法益，抑或违反命令性规范应当救助却不救助特定法益，其规制理由除侵害法益的特定后果以外，还包括行为人在能够遵守相关规范的场合却基于自由意志选择（有责任地）违反相关规范，即犯罪系行为人自由意志外化的客观结果，是行为人犯罪性人格的重要表现，而刑罚则是对犯罪性人格的正式否定，是对行为人自由意志犯罪性外化的非难形式。

以深度学习为技术支撑、靠大数据“喂养”的人工智能系对人类智能的模拟和仿效，其固然能够借助各种传感器捕捉外部世界的信息变化，并按照预先设定的算法系统作出特定反应，但却只是具备人类认识能力和控制能力以及自由意志的外观，而缺乏人类特有的人格性这一本质要素。“人类与机器人一项重大的道德差异在于机器人缺乏人格性，无法参与在人际关系之中。虽然机器人作为道德主体，在外显的行为表现上可以跟人类一样，甚至更好，但无法享有人际关系理由的事实，代表在涉及到干涉人类自主性的情况时，机器人的行为应当受到比人类更大的限制。”赋予“犯罪”人工智能体独立的刑事责任主体地位，直接追究人工智能体自身的“刑事责任”，貌似是对人工智能体“犯罪”的报应和非难，但此种报应和非难的对象却不是人工智能体能够遵守法律规范前提下“自由”“自主”地选择实施侵害人类法益，并未真正触及人工智能体的“人格性”。

当前，人工智能技术正成为推动社会发展的重要动力，也是我国在现代国际竞争中实现“超车”的重要弯道，理应坦然正视且致力抑制或消除人工智能体带给人类利益受损的刑事风险，充分保护人机交互或人机融合中人类的利益和福祉。前述人工智能体缺乏被刑罚非难主体适格性的理论展开，旨在强调不宜赋予人工智能体独立刑事责任主体地位、径直追究“犯罪”人工智能体“刑事责任”的方式，解决人工智能体自动运行过程中侵害人类法益可能出现的“责任空白”，并不意味刑事反应机制不应介入人工智能体的刑事风险及其归责领域。

在特定行为的刑事反应机制中，刑罚方法系国家对行为人能够实施合法行为的情形下有责任地实施该当构成要件的违法行为所施予的责任报应和非难谴责。“刑罚是以剥夺法益这一形式所体现的责任非难的现实的表现形式。责任是刑罚的基础，并且决定了刑罚的性质。”依托现有刑事归责理论无法赋予人工智能体独立刑事责任主体地位，难以肯定以刑罚规制人工智能体刑事风险的适宜性，于是放弃对人工智能体直接进行归责，将目光投向社会防卫论以及以此为基础的保安处分，就成为应对人工智能刑事风险的务实选择。对此，有论者借鉴刑事近代学派所主张的社会防卫论，创造性地提出“科技社会防卫论”：“在应对人工智能等科技产品危害社会的风险时，只要有客观危害产生或者有危险存在，对实施了社会危害行为或者有危险性的人工智能就应当适用具有保安处分性质的技术消除措施。”毋庸讳言，为消除客观危险的社会防卫论曾在学术史上遭到批判，但以社会防卫论为基础所构建的保安处分在管控风险、保障安全上超越刑罚（刑事归责）的特殊优势却得到现代刑法的普遍肯认，刑罚与保安处分双轨并行的刑事制裁体系也得到相对广泛的提倡和采用。

在双轨制中，刑罚是在满足报应需要前提下，追求一般预防与特殊预防的双重目的，其以过去的犯罪行为所表现出的责任为基础，通过剥夺犯罪人之法益，实现对具有刑事责任能力者实施犯罪行为的非难和谴责。与此相对，保安处分则仅出于特殊预防的考量，以将来实施严重危害社会的危险性为基础，采用改善、隔离等矫正或排害措施，抑制或消除社会危险性。鉴于“根据犯罪行为的罪责程度而裁量的刑罚，往往不能正确而完整地达成刑法预防犯罪的目的构想”，作为刑罚补充的保安处分直接针对处分对象的社会危险性，面向将来实施严重危害社会的可能，不涉及对过去严重危害社会行为的谴责或非难等否定性评价，不以具有刑事责任能力为前提，不以犯罪人具有被刑罚非难的主体性资格为必要，契合了人工智能刑事风险防范的现实需要。同时仅就犯罪预防而言，刑罚是透过剥夺犯罪人的重要法益使犯罪人与普通公众认识到实施犯罪将受到国家的谴责并遭受法益被剥夺的不利后果，进而产生“不敢”或“不愿”实施犯罪的预防效果；而保安处分则聚焦于剥夺犯罪人工智能体的犯罪能力或消灭人工智能体，使之“不能”再犯罪。人工智能体不是可自负罪责的刑事责任主体，其自主运行过程中内在风险及其现实危害难以归咎于人工智能体本身，为此，对人工智能体所施加的“技术性危险消除措施”放弃对刑法上可非难性的考量，专注于消除人工智能体自身的风险，可归入对物保安处分措施的范畴。

与对具有危险性格的人所实施的保安处分不同，对物保安处分是国家为抗制犯罪或侵害社会的危险，对诱导犯罪发生之物或者过去犯罪残存之危险物采取的预防措施，旨在消除特定物的社会危险性。“如果某种物对公共安全或社会秩序具有危险性，而且从防卫社会的角度出发应予没收的，这种没收就属于保安处分。”除刑事没收以外，典型的对物保安处分措施还有责令犯罪者提供一定数额财物担保将来不再实施犯罪的善行保证、关闭营业所、解散法人及停止业务等。破解人工智能体刑事风险及其现实化之危害后果的归责难题，需要应当继续坚守人类中心主义根本立场，根据人工智能刑事风险的独特属性、具体内容并结合刑法的性质任务以及运行机制，探索建立有效且科学地规制人工智能体刑事风险的（对物）保安处分体系。亦即特定人工智能体在自主运行中严重侵害人类并且有证据证实其仍有继续侵害人类危险的，司法机关可在参考专业技术意见的基础上对该人工智能体适用删除数据、修改编程以及永久销毁等技术性危险消除措施。这些技术性危险消除措施绕过人工智能体自身刑罚非难适格性的论争，因专注于消除人工智能体内在之侵害人类法益的刑事风险，确保人工智能运行的安全性，与保安处分具有性质、内容及价值上的同一性。

采用保安处分的方案破解人工智能体侵害人类法益的归责疑难，直面人工智能体内在的技术风险，既有助于摆脱人工智能体侵害人类的责任应当归咎于何种法律主体的纠结，回避以刑罚规制人工智能刑事风险必须具备可非难性的局限，进而为国家公权力介入人工智能体刑事风险的抗制提供理论支持和正当性根据，也有利于督促人工智能体的使用者审慎监管人工智能体的实际运行，及时阻断人工智能体内在刑事风险现实化流程，确保人工智能体始终在安全和值得信赖的环境中得到合理使用。毕竟对“问题”人工智能体采取的技术性危险消除措施必定会构成对使用者正常使用人工智能体不同程度的制约。

结   语

鉴于人工智能在增强综合国力、提升国际竞争力以及引领时代发展方面的独特优势，中国已经毫不迟疑地加入了新一轮人工智能革命，并将人工智能技术的研发与运用作为提高经济社会发展智能化水平、增强社会治理能力的重要抓手和强力支撑。然而，“来自未知的力量也让人们有些无所适从，担忧、不安甚至惶恐的情绪，也让人们深受困扰。人们不知道人工智能研究像潘多拉的盒子那样装满了灾难，还是像一部电梯，带着人们通向更高级的人类文明。”不论在现实中还是理论中，人工智能体所蕴含的刑事风险都是制约人工智能发展的重要障碍。人工智能进步价值的充分释放，有赖于包括刑法在内的整个法律体系乃至社会控制体系有力、有效地应对人工智能刑事风险，但人工智能刑事风险防控措施的选择理应准确识别人工智能刑事风险的客观属性以及不同风险防控措施的独特原理，科学把握风险种类及防控措施之间的内在逻辑关联，确保人工智能刑事风险及其归责方案的正当性和实益性，避免将刚走出科幻世界不久的人工智能重新带入科幻世界。

— 相关链接 —

刘仁文：为新时代的法治建设输出更多优质的检察产品

点击“阅读原文”直达刘仁文研究员“学者文集”

中国法学网

投稿邮箱：[e-mail]

来稿请注明姓名、单位和联系方式