PPT公开:人工智能触犯刑法该如何处罚?责任谁承担?刑法介入人工智能风险规制的慎思!

灵魂发问❓❗️① 如果人工智能触犯刑法，责任应该由谁承担？
② 人工智能的刑事责任能力该如何界定？③ 人工智能触犯刑法该如何惩罚？④ 迄今为止世界上有AI犯法的案例吗？最终是如何判定的？

《追AI的人》第4期邀请南开大学法学院王强军副教授做客直播间，分享《刑法介入人工智能风险规制的慎思》，吸引了8万人观看！

本文将分享王老师对于“刑法介入人工智能风险规制”的观点，全文共计5509字。

🔻相关内容推荐:

直播简介：刑法介入人工智能风险规制的慎思:《追AI的人》直播第4期来咯！

王强军

南开大学法学院副教授，南开大学法学院网络与信息法研究中心研究员，北京师范大学法学博士，美国加州大学洛杉矶分校访问学者。兼任天津市法学会刑法学分会秘书长、天津市人大常委会立法咨询专家等职务。主要研究领域：刑法学、刑事政策、企业刑事合规。

主持国家社科基金一般项目、天津市社科规划后期资助项目、南开大学亚洲研究中心项目数项。在《中国法学》《法学》等杂志上发表学术论文30余篇。2020年荣获南开大学教育教学优秀青年教师奖。

框架要点

一、人们对人工智能的担忧来源

二、刑法介入人工智能风险规制的冲动 

·  刑法介入人工智能犯罪的理念探寻

·  人工智能犯罪主体地位的确立和犯罪类型的分析

·  人工智能刑事责任能力的确定方式

·  针对人工智能的刑罚种类和刑罚措施的设想

三、刑法介入人工智能风险规制的弊端

·  人工智能的特点

·  刑法介入人工智能风险规制的弊端和原因

四、刑法介入人工智能风险规制的克制

·  确立刑法介入人工智能风险规制的最后性和补充性原则

·  区分人工智能实施的犯罪和通过人工智能技术实施的犯罪

·  刑法介入人工智能风险规制应当有明确的理论根据和实践基础

·  刑法介入人工智能风险规制不能阻碍人工智能的创新

五、刑法介入人工智能风险规制的总结

1
人们对人工智能的担忧来源

本次分享的题目是《刑法介入人工智能风险规制的慎思》。首先我们提出的观点是：对人工智能的风险规制，刑法不应该介入的那么早；在人工智能风险规制的诸多选择当中，刑法应当是最后选择。

在社会当中，我们会看到人工智能的应用，比方说自动驾驶汽车、人工智能的医生等等。我曾经比较幸运地坐过咱们国家的无人驾驶汽车。所谓无人驾驶汽车，并不是说完全没有人驾驶，它的驾驶室里还是有自然人坐着的，这个自然人是无人驾驶汽车的一个接管人员。

自动驾驶汽车根据事先设计、输入的运行规则去行驶，比如遵守交通规则，执行右转、左转、变道。但考虑到驾驶活动一些复杂的状况，程序书写得并不是绝对完整，自动驾驶系统可能无法去预见执行，在驾驶过程当中还是需要自然人去接管。

包括人工智能的医生，大家可能会在媒体上或者影视剧中听说，但其实所谓人工智能医生并非真正去操作手术的医生，而只是手术过程中有电脑操作的介入。

目前，我们对人工智能的认识基本上还是停留在无人驾驶汽车，而对于整个人工智能产业的发展，我们的认识还是比较少的，这就说明什么问题？

整体上，人工智能还相对比较神秘，人们对人工智能的智能水平并没有一个客观准确的把握和认识。可能感觉到人工智能非常强大，但强大的程度并不清楚。

公众对人工智能风险的担忧主要来源于三个方面：

• 整体上人工智能还相对较为神秘，人们对人工智能的智能水平并没有一个客观、准确的把握和认识。

• 人工智能可能造成危害后果的客观事实。如在谷歌的自动驾驶汽车路测过程中，也发生将行人撞死的交通事故。

• 人们对于人工智能的认识容易受到人工智能宣传和文艺作品的影响。

2
刑法介入人工智能风险规制的冲动

刑法介入人工智能风险规制的冲动来源于人们对于人工智能的恐惧。尽管理性告诉人们，人工智能的风险应当从治标和治本两个层面来进行规制，但是刑法基于其扩张的本性，还是对人工智能的风险规制表现出了强烈的冲动，主要表现为几个方面：

1. 刑法介入人工智能犯罪的理念的探寻。

理念探寻是指什么呢？就是指刑法到底能不能介入人工智能的风险规制，首先解决一个“可不可以“”的问题。

2. 人工智能犯罪主体地位的确立和犯罪类型的分析。

我们需要确认人工智能能否成为犯罪主体。因为如果想进行风险规制，我们需要确认人工智能是否拥有公民身份和法人身份，当拥有相应身份，人工智能的犯罪主体地位就能确立。

3.人工智能刑事责任能力的确定方式。

自然人由于年龄的不同、精神状况不同等，所承担的刑事责任能力可能并不相同。

如现行刑法修正案中，12~14周岁的自然人，需对杀人罪、故意伤害罪承担刑事责任，但对别的犯罪不承担责任；

而14~16周岁的自然人，需对8种行为承担刑事责任（已满十四周岁不满十六周岁的人，犯故意杀人、故意伤害致人重伤或者死亡、强奸、抢劫、贩卖毒品、放火、爆炸、投放危险物质罪的，应当负刑事责任），对别的犯罪不承担责任。

而在人工智能这个领域，我们就需要去探寻人工智能刑事责任能力的确定方式。

4.针对人工智能的刑法种类和刑法措施的设想。

刑法学界目前也正在展开想象和探讨，企图能够找到一些惩罚措施，能够对人工智能造成类似于自然人那样情感上的、心理上的和肉体上的痛苦。

刑法是社会的产物，对人工智能问题的处理，应当取决于在宏观层面上人工智能应当扮演何种角色。

而在人工智能的风险规制上，一旦从理念层面启动了通过刑法进行规制的念头，刑法扩张的本性将会得到充分的施展，而且能够完全实现理论上的自洽。

而目前就人工智能问题，理论界就有人主张让人工智能借鉴法人进入刑法的路径。在这条路径中，人工智能成为另一种形式的单位，作为犯罪主体中的第三类。

根据人工智能的智能程度，又可以分为弱人工智能和强人工智能，其主要区别在于是否拥有独立思考、自主行动的能力，这使得它们之间刑事责任能力也应具备明显区分。

成为犯罪主体之后，人工智能的刑事责任能力如何确定？

人类可以按照自然人的年龄、精神状况、生理功能，从而分为完全刑事责任能力、部分刑事责任能力、无刑事责任能力，那么对于人工智能怎么做？ 

一些学者提出了设想。人工智能的刑事责任能力可以根据人工智能设计、研发的阶段进行确定，一旦人工智能设计出来，就具有完全的刑事责任能力。

对于人工智能的刑法措施，国内外的学者产生了不同看法。

国外的学者认为人工智能可以像人类一样直接承担刑事责任。比方说适用于人类的死刑、自由行、缓刑、社区服务、罚金等，都可以通过适当的调整，适用于人工智能。

3
刑法介入人工智能风险规制的弊端

首先我们需要明确，并不是所有的事情都需要涉及到刑法，对人工智能风险来说也是如此，并非出现的所有的风险都需要要用刑法来预防和规制。

人工智能具备这几个特点：无形的（discreet）、无意识联络（discrete）、分散性（diffuse）、不透明性（opaque）。

从人工智能本身的特点，我们就能推论出刑法介入人工智能的弊端。

1. 容易夸大风险。

人工智能完全有可能在“显性智慧能力”层面赶超人类，但是在“隐性智慧能力”方面，至少在可预见的未来难以取得实质性成果。

2. 缺乏实践根据。

刑法介入人工智能风险规制缺乏实践，根据中华人民共和国刑法第一条“为了惩罚犯罪、保护人民，需根据宪法结合我国同犯罪作斗争的具体的实践经验”。也就是说，以刑法对人工智能进行风险规制除了要有宪法依据外，还要有实践根据。

3. 存在理论障碍

关于“人工智能是否成为法律主体，尤其是能否成为犯罪主体”目前存在争议，因为目前仍未看到人工智能类似自然人、法人参与社会的行为。

其次，人工智能在刑法上的刑事责任能力确定以及刑事责任能力程度的区分目前尚不明确，并且人工智能实施犯罪之后，人工智能和设计者、制造者、使用者之间的责任如何划分也没有明确的理论支持，刑法介入仍旧任重道远。

最后，人工智能一旦构成犯罪之后，如何确定适用于人工智能的刑罚方式也将是我们需要继续探讨的问题。

4
刑法介入人工智能风险规制的克制

出于刑法介入人工智能风险规制的种种弊端，我们必须对于刑法介入进行相关限制：

• 确立刑法介入人工智能风险规制的最后性和补充性原则
• 区分人工智能实施的犯罪和通过人工智能技术实施的犯罪
• 刑法介入人工智能风险规制应当有明确的理论根据和实践基础
• 刑法介入人工智能风险规制不能阻碍人工智能的创新

通过伦理控制注重对人工智能设计主体和使用主体的观念规范。当出现出于恶意目的而研发的技术，刑法应更多关注对于设计人员的伦理规范，这样产生的效果往往会好于对于技术的伦理规范。

我们需要去区分人工智能实施的犯罪和通过人工智能技术实施的犯罪。

关于刑法介入人工智能规制的限制，应该在两个方面做出努力：

• 一是，对于人工智能领域，应当坚守技术中立，技术的问题应该用技术的方式解决，刑法应当审慎的介入人工智能领域；
• 二是对于人工智能实施的违法犯罪行为，刑法也应当审慎的进入，并且这并非人工智能刑事风险规制的重点。

我们对于人工智能刑事责任的追究，客观上势必会延伸和波及到人工智能的设计者、制造者和使用者，如果让人工智能的设计者和制造者一起也承担刑事责任，那么就有可能让设计者和制造者带上“紧箍咒”，从而就有可能“削足适履”并放弃对于人工智能的研发。

5
结语

首先，从伦理角度对人工智能设计主体和制造主体设定相应的规则，从伦理理念层面控制人工智能设计基础符合人类智慧的伦理规范。

其次，应当注重从技术层面对人工智能设计进行规范，对于技术风险控制的最好路径还是技术。所以，我们应当从技术创新的角度对人工智能技术的发展方向进行规制。

最后，刑法介入人工智能风险规制，还是应当立在人工智能风险客观上已经彰显的时刻，而不能完全完全凭着主观上认识的人工智能所可能具有的风险。避免我们在人工智能风险控制问题上，再次犯风险社会刑法规制过于盲目的错误。

 更多AI治理干货，请关注AAIG公众号

 PPT原件获取

请联系【AAIG课代表】⬇️

追AI的人 往期推荐点击标题查看文章


低碳AI好科技(3)AI一眼识别"你算什么鸟"？

产业实践 往期推荐点击标题查看文章





































技术干货 往期推荐点击标题查看文章























大咖视角 往期推荐点击标题查看文章



爱心公益 往期推荐点击标题查看文章






AAIG CUP 往期推荐点击标题查看文章

更多人工智能治理和可持续发展

技术干货+产业实践分享

点击下方名片关注和星标

【阿里巴巴人工智能治理与可持续发展实验室】