查看原文
其他

程龙:人工智能体刑事诉讼被追诉人地位审思 | 学术交流202007

【作者】程龙(云南大学法学院副教授,博士)
【来源】北大法宝法学期刊库《学术交流》2020年第7期(文末附本期法学要目)。因篇幅较长,已略去原文注释。


内容提要:赋予人工智能体法律主体地位是为了解决人工智能体侵权及犯罪中的责任真空问题,旨在维护人类而非人工智能体的权益。假定人工智能体能够成为刑事责任主体,则其在刑事诉讼中的地位仍然值得思考。在刑事诉讼中,构建被追诉人相关制度是为了充分保障被追诉人正当权利,以实现控辩平等、司法公正和刑罚正义,但这对于人工智能体并无实质意义。同时,由于人工智能体的思维可被解析,加之其物理上的机器属性,导致供述自愿性保障、辩护、救济和强制措施等制度对其而言均无实际意义。因此,不必赋予人工智能体被追诉人地位。对于人工智能体犯罪,可以依照侦诉审一体化的极简版诉讼模式快速处理。以合目的论指引人工智能体法律主体地位研究,而不陷入纯粹理念与意识形态之争,方为学术正道。

关键词:人工智能体;法律主体;刑事诉讼;被追诉人


问题的提出


  随着人工智能产业的迅猛发展,人工智能生成物越来越深入地影响、改变着人类生活。其中,智能机器人、自动驾驶汽车等方面的应用走在了产业发展的前端。人类社会期盼并欢迎人工智能的进入,希望迎接一个更加美好的、人与人工智能和谐发展的明天。但是,随着人工智能与人类生活的交互日趋广泛和密切,也逐渐暴露出来一些问题,其中最为关键的是人工智能体侵权乃至犯罪及其处理问题。当自动驾驶汽车交通肇事、智能机器人伤害人类时,既有的法学理论与法律规范是否能够恰当地处理这些崭新的事务,这个问题引起了普遍的关注与思考。


  法学理论及时给予了回应。从宏观层面看,一方面,人工智能产业的发展需要法律予以规制;另一方面,必须平衡人工智能的发展与人类合法权利的保护。针对人工智能体侵权乃至犯罪,法律必须找到一条规制进路,以期从根本上维护人类自身的安全。法学理论借鉴了民法、刑法上的“法律(责任)主体”概念,意图将人工智能体纳入到这一概念体系中。通过赋予人工智能体实体法上的主体地位,使其承担一定的自我责任,可以确保其在侵权或犯罪时能够得到有效惩处与追究,不至于出现既不能惩罚人工智能体又不能惩罚人工智能体的生产者和使用者的“责任真空”问题,进而促使人工智能更加高效、安全地服务人类。


  应该说,法学界关于人工智能的讨论是富有成效的。然而,正如众所周知的那样,实体法上是否具有主体地位或许能够在一定程度上解决人工智能侵权、犯罪的责任归属问题,但是归根结底,责任的最终确立与承担需要通过诉讼方式处理。尤其在犯罪领域,根据我国法律规定,未经人民法院判决,不得宣告任何人有罪。这就注定了,当我们要追究人工智能体的犯罪时,不仅需要从刑法角度辨析人工智能体是否可以成为刑事责任主体,还需要从刑事诉讼法角度讨论它可不可以、应不应当成为犯罪嫌疑人和被告人?易言之,人工智能体能不能承担、如何承担刑事责任是一回事,而怎样被追究责任是另外一回事。目前,学界关于人工智能体的责任主体地位的研讨主要集中于实体法领域,诉讼法角度的研究还比较少。本文拟从刑事诉讼角度回答人工智能体应不应当成为诉讼法意义上的被追诉人这一问题,进而为人工智能体犯罪的处理提出诉讼法上的方案。


  值得注意的是,人工智能犯罪与人工智能体犯罪在概念上是不同的。人工智能犯罪是指使用人工智能技术进行的犯罪,其犯罪主体可以是传统的自然人、单位等,处理人工智能犯罪并不会遇到太大的理论难题。而人工智能体犯罪是指人类制造并使用的、蕴含人工智能技术的有形物自身的犯罪,例如自动驾驶汽车交通肇事罪、智能机器人犯罪等。由于这一类犯罪的主体并非传统意义上的人或单位,才产生了法律意义上的主体问题。申言之,人工智能犯罪是利用人工智能这一技能、算法而产生的犯罪。在这当中,人工智能的角色只是一种智力活动,属于行为范畴,而不是主体范畴。只有人工智能体的犯罪才真正出现有别于人类的人工智能产物是否具有法律上的主体资格的问题。既往的一些研究并不区分二者,误把人工智能犯罪与人工智能体犯罪等同,产生出一些错误的结论。例如,有研究认为人工智能的举止应被归属于控制人工智能的人而不是人工智能本身,进而否认了人工智能体的法律主体地位。对于人工智能犯罪而言,这一论断完全正确。但对于人工智能体犯罪而言,完全有可能,到“强人工智能时代”,人工智能体本身产生了自我意识进行犯罪,这时就难以将人工智能的全部举止归属于控制人,甚至已经没有“控制人”了。又如,有研究认为,“人工智能不是法律主体,它是一个或几个编程,其执行的是编程者的命令和意志,不具有独立自由的意志”。这也是误将人工智能等同于人工智能体。就人工智能体犯罪而言,它不仅仅是几个编程、算法,而更有算法所支配的外在物理行为,完全有可能在其独立算法的支配下,通过外在实体的行为进行侵权、犯罪。因此,再次强调,本文研究的核心是“人工智能体”(而不是“人工智能”)犯罪后是否应当取得刑事诉讼法上的被追诉人地位的问题。


从法理到规范:人工智能体的法律主体地位


  (一)主体理论旨在解决人工智能体的责任问题


  是否赋予人工智能体法律主体地位,绝不是空想和闲谈,而是一个迫在眉睫的关键问题。随着人工智能体在司法、医疗、金融、交通、农业、工业、气象预报等领域的广泛运用,确实会出现大量的直接表现为人工智能体侵权、犯罪的违法事件。但是,在人工智能体侵权、犯罪后,究竟追究谁的责任,给传统法学提出了尖锐的疑问,即有可能出现行为主体与最终归责的主体相互分离的现象。具体到刑事法领域,这一问题更加突出,因为责任主义原则要求“没有责任就没有刑罚”:“只有当行为人对侵害法益的行为与结果具有非难可能性(有责性或者责任)时,才能将其行为认定为犯罪;而且量刑不能超出非难可能性的范围与程度。”责任主义原则的坚守在“弱人工智能时代”尚无争议,即当人工智能体犯罪时,可将罪责归属于人工智能体的制造者、使用者。但在“强人工智能时代”,人工智能体具有独立意志之后,有可能实施不符合设计、超越于制造者和使用者意料与控制范围的犯罪。此时,是否能将责任归属于并无有责性的制造者、使用者,便不无疑问。然而,如果无法将责任归属于人类自身,而人工智能体又不具有刑事责任主体地位,那就意味着,在人工智能体犯罪领域,人类找不到责任的承担者,形成“责任真空”,进而无法妥善处理此类犯罪,最终损害人类社会的整体利益与秩序。当然,也有反对者认为,即使赋予人工智能体法律地位,继而令人工智能体承担一定的法律责任,也不一定能够解决问题,反而还有可能产生损害人类权益的负面效应:“一旦以人工智能为独立主体可承担法律责任,则等于承认操控人工智能的精英们增享了更多权利,减少了许多义务(责任),那么人类法律秩序也就彻底乱套了。”


  从另一角度看,有学者已经意识到,人工智能(体)犯罪往往还与跨国网络犯罪高度关联,因此,如果在本国法领域无法合理处置人工智能(体)犯罪的责任主体问题,则还有可能对于他国的人工智能(体)所实施的犯罪缺乏有效的规制手段,进而损害国家利益。赋予人工智能体法律主体地位,至少可以在它们侵权、犯罪时令人工智能体本身作为责任主体承担相应的责任,进而为人工智能体侵权、犯罪的治理提供可靠的归责进路。在这个意义上,可以认为,主体理论在人工智能体犯罪领域最主要的功能就是在于解决责任承担的问题。


  基于此,学界未雨绸缪地研究“强人工智能时代”具有独立意志的人工智能体是否具有刑法抑或民法上的主体地位,具有非常深刻的实践内蕴,绝非部分批评者所认为的“天方夜谭”。但是,我们也要承认,“强人工智能时代”毕竟还远未到来,甚至其何时到来我们也概莫能知。因此,这一预见性研究很有可能招致“缺乏现实性”之批评。我们有必要进一步思考:这场人工智能主体地位的讨论还能给我们何种更加深刻的启示?


  (二)赋予人工智能体主体地位是为了保障人类利益


  如前所述,让人工智能体具有法律主体地位,不是为了解决人工智能体的权利保障问题,而恰恰是为了保障人类自身的权益。意即,通过赋予人工智能体法律主体地位,使得在其侵害人类利益时,能够直接追究人工智能体的责任,从而弥补、回复人类利益的损失,避免“责任真空”。也就是说,赋予人工智能体主体地位,具有鲜明的问题导向,即如何处理人工智能体的侵权和犯罪。假设人工智能体具有实体法上的主体地位,那么,这种主体地位的法律设计,也不是用来维护人工智能体权利的,而恰恰是为了追责的便利而设置的。因此,讨论人工智能体是否具有主体地位,不是为了保障人工智能的权利,而是为了保护人类的利益。在这个基础上,我们可以发现,与以往法律主体制度设计目的之权利保障导向不同,赋予人工智能体法律主体地位是一种义务本位的考虑,即通过对人工智能体课以义务来保障人类权益。


  指出上面这一点,意在强调,我们必须明确赋予人工智能体法律主体地位的目的究竟是什么,我们的讨论与制度设计必须在明确这个基点之后才有可能作出“合目的性”的理论创造。否则,一些研究很可能会误认为赋予人工智能体法律主体地位是为了保障人工智能体的权利,进而产生赋予人工智能体法律主体地位是否会影响人类权利的疑问。甚至一些研究还会“同情式理解”人工智能体。这些研究在发现人类赋予人工智能体法律主体地位是为了对其课以义务进而追究责任时,自然而然地认为:权利与义务应当对等,而作为法律主体的人工智能体承担义务过多,其主体权利的保障却严重不足,这对人工智能体而言并不公平。


  哲学格言有云:“人是万物的尺度。”我们也同样可以基于这个哲学原点而认为“人是人工智能的尺度”。人工智能的发展具有伦理上的局限性。一方面,“AI对于人类感官的模拟仍然处于机械化阶段,无法产生完整的人类感觉和思维”;另一方面,人工智能也不可能复制人的能动性、创造性和社会性。这就决定了人工智能必须受到人类的控制,服务于人类的利益。人工智能只是帮助人类追求更加美好幸福的明天的一种手段,而不是目的。我们必须正视人与作为人类产物的人工智能间天然的不平等性。面对人工智能体的权利保障、主体地位等问题,应当少一些杞人忧天,多一些“合目的性”,明确意识到:赋予人工智能体主体地位是为了保障人类利益,而不是保障人工智能体的权利。


  (三)规范上的讨论:主体地位的有无


  如果不明确赋予人工智能体主体地位是为了保障人类利益,则相当一部分在规范意义上的讨论是没有意义的。特别是,呼吁赋予人工智能体主体地位、继而实现对它们的权利保障的理论证成,这在笔者看来颇有些“杞人忧天”的天真。因此,规范上关于是否可以赋予人工智能体法律主体地位的讨论,应当在保障人类利益、落实责任归属这一“合目的性”的框架下进行。


  首先,需要明确的是,法律主体是一个规范概念,用于明确法律所调整的对象。因此,作为法律上资格与能力的“法律主体”概念是法秩序本身所赋予的,“自然人”概念本身也是法律建构的。相当一部分实体法研究认为,法律主体的存在基础在于独立意识的存在。意思就是说,只有当某一主体存在独立意识时,才可以赋予其法律主体地位。具体在刑法领域,其基本条件就是:具有规范意义上的辨认和控制自身行为的能力,法律允许其进入人类社会,其受到人类社会的法律监管。


  其次,现阶段人工智能体是否具备辨认和控制自身行为的能力。随着科技的发展,进入“强人工智能时代”后人工智能可能脱离传统刑法规范。但合理的研究应当是立足于目前可预见的智能技术发展程度的务实思考,而不是脱离实际的“天马行空”式的幻想。譬如有的研究认为,未来人工智能体可能实施基于其独立意志的犯罪行为;然而,这一天究竟何时到来、能否到来,却缺乏讨论。事实上,目前人工智能的发展并非如同一些法律人想象的那样似乎是一个通识性、通用性的智能系统算法。恰恰相反,现有的人工智能是沿着狭义人工智能的“专家系统”路线发展的,它不可能在通用领域实现人类的“全脑模拟”。即便未来可以实现广义的通用人工智能,其技术路线也不是简单的专家系统的累加,而是一整套全新的技术方案。因此,基于专家系统的人工智能体是否可能超出其设计范围而进行所谓的有独立意识的犯罪,是存有疑问的。学界正是在这一关键点上聚讼纷纭,不同立场的学者对于人工智能体是否具有刑法意义上的辨认和控制自身行为的能力这一问题得出了不同的结论。


  再次,理性是不是获得主体地位的先决条件。在民法领域,有研究认为,人工智能体是否具有理性,是判断其是否具有民事主体地位的先决条件。法律主体地位的赋予就是法律人格的确证。人工智能具有独立的意识和理性,因而可以实现其“具体人格的确认”。在刑法领域,辨认和控制自身行为的能力之基础就是理性的具备。从逻辑上看,人类正是因为有理性,所以可以辨认和控制自身行为,进而应当为其行为负责。因此,具备理性当然是人工智能体获得主体地位的先决条件。


  最后,是否有意识和理性之外的影响法律主体地位成立的因素。有研究认为,是否成为法律主体,不仅仅是一个法律问题,还是一个哲学问题。其一,欲望在法律主体的确证上具有重要意义。因为,权利的本质是欲望的表达,正是因为人类有欲望,才产生了保障这些欲望的权利需求。从这个意义上看,欲望是以权利形式进入法律的,而法律主体的确立本身就是为了保障主体的权利,因此,适格的法律主体必须是有欲望的主体,如此才能成为利益的负担者。其二,法律主体理论具有身份认定的功能。人类法律之所以赋予自然人法律主体地位,关键在于人类对同类的相互身份的认定,其进而凝结成了共同的权利意识,赋予了彼此法律主体的资格,以寻求法律上的保障。然而,人工智能体的“非人”属性,难以让人类产生基于“同类”的身份认定,所以,将人工智能体视为法律主体缺乏伦理上的可能。


  (四)批评:人工智能体法律主体地位讨论的误区


  本文不再赘述学界关于人工智能体是否可以成为法律主体的相关讨论。纵览此类研究,可以发现,大多数支持与不支持人工智能体获得法律主体地位的讨论都有错位之感,总结如下:


  其一,讨论的立场存在偏差。如前所述,在讨论人工智能体法律主体地位问题之前,必须明确我们为什么需要赋予人工智能体法律主体地位,以使研究具有“合目的性”。但是,一些研究认为赋予人工智能体法律主体地位是为了保障人工智能体的权利,另一些研究又认为赋予人工智能体法律主体地位是为了保障人类的权利。预设立场的不同,自然会导致论证与结论的不同。而仅仅基于立场的争论,并不可能产出有效的、有意义的学术争鸣,而只是意识形态的争执而已。


  其二,事实判断缺乏可靠性。如前所述,尽管学界普遍承认规范意义上的法律主体地位确立需要满足底线的理性、辨认和控制自身行为的能力等条件,但人工智能现阶段是否满足以及未来能否满足这些条件,涉及基本的事实判断,着实难以得到可靠的结论。一些研究认为,人工智能体尽管可能在部分领域具有超越于人类的能力,但无法论证其已经具备了辨认和控制自身行为的能力。另一些研究却充满乐观地认为,意识的本质就是神经电信号的传导,模拟人类大脑进而产生具有独立意识和思维能力的神经网络不是不可能的事。还有研究认为,人工智能体即便拥有理性、智慧,它本身也并没有累积知识,其智性完全来源于人类智慧,所以人工智能体不可能具有行为能力,它的所有表达实际上都是人类自身的表达。众说纷纭的背后,我们必须清醒地看到,法律人工智能讨论的一个重大误区在于非专业人士进行着专业的判断。事实上,人工智能现在有没有、将来可不可能有独立意志、控制和辨认能力以及理性,这个事实判断不是法律人所能够作出的。它需要计算机科学、数学、材料科学、认知科学等专业学科共同判断。单纯基于法律人自身经验和预判而进行的分析只是一种猜想、一种假定,甚至是一种信仰。以这样一种法律人无法作出的判断作为讨论基础,缺乏科学上的可靠性。


  其三,实体法的讨论忽视了程序法的困难。在刑法领域讨论人工智能体的主体地位,重点在于探讨其刑事责任的承担。但是,犯罪的处理是一个综合性的工程,它不仅需要在实体法上指明能不能承担责任、怎样承担责任,还需要在诉讼法上探讨:人工智能体能否成为犯罪嫌疑人、被告人而参与刑事诉讼?在刑事诉讼中,人工智能体的诉讼地位、权利与义务究竟如何?等等。单纯从实体法上证成人工智能体可以具有刑事责任主体地位,但如果它难以作为被追诉人参与刑事诉讼,则仍然不可能真正实现追责的目的。


人工智能体在刑事诉讼中的权利问题


  假定人工智能体具有刑法上的法律主体地位,那么,它是否能够成为刑事诉讼中的被追诉人呢?这关系到人工智能体的刑事责任是否能够通过刑事诉讼顺利追究。根据《刑事诉讼法》第12条的规定,“未经人民法院依法判决,对任何人都不得确定有罪”。即使人工智能体能够在刑法意义上被拟制为“人”,具有法律主体地位,其刑事责任的承担也仍然需要通过刑事诉讼来处理。


  是否能够成为刑事诉讼中的被追诉人,除了以独立意志、控制和辨认行为的能力以及理性作为判断的重心,还需要进行诉讼法意义上更加细致和规范化的判断。以制度建构的“合目的性”作为逻辑起点,我们首先需要讨论的是:被追诉人作为刑事诉讼中的主体之一,其规范建构有何特点?其制度设计目的何在?这就与被追诉人在刑事诉讼中的权利保障紧密地联系在了一起。


  (一)被追诉人地位与其权利保障


  刑事诉讼法在很大程度上可以认为是一部保障被追诉人权利的法律。相当多的刑事诉讼规范都旨在保障犯罪嫌疑人、被告人的正当权利。从权力制约的角度可以发现,刑事诉讼的基本架构就是以被追诉人权利保障制约国家追诉权力,以实现权利与权力间的平衡。从这个意义上看,在刑事诉讼中确立被追诉人的地位,关键目的在于为他们提供必要的权利保障,以对抗国家追诉权力。


  规范意义上的被追诉人权利可以有具体诉讼权利与宪法权利之分。以美国法为例,宪法意义上的被追诉人权利包括了非法证据排除、不得自证己罪、沉默权、对质权、律师帮助权等等。上述权利是从美国宪法第四至第八修正案中逐渐演化而生的,起初并不能直接在刑事诉讼中援引上述宪法修正案来确证被追诉人的诉讼权利,但后来随着宪法第十四修正案(正当程序条款)的广泛适用,美国联邦最高法院倾向于在认定某一诉讼权利属于基本权利时借助第十四修正案而通过正当程序保障此权利,禁止政府侵犯。大陆法系同样重视从基本权利的角度阐明被追诉人权利保障的重要性。“被告在诉讼中被视为诉讼主体,并被赋予独立之权利。在此被赋予之权利中最重要者为人性尊严之维护及拥有不受限制的辩护权。”日本法强调,“在适用刑事程序时,必须保障个人基本人权”。从刑事诉讼的目的看,查明事实真相以实现实体刑法只是其目的之一,这种实体的真实也必须以正当程序为前提。“追求真实只允许使用正当的手段。在不能期待通过法律制度或者法律原则下的正当手段查明真相时,必须放弃追求真实本身。”


  宪法上的被追诉人权利阐明了刑事诉讼追求真实、惩治犯罪的界限,即不得逾越公民的基本权利边界,不得以严重有损基本权利的方式去实现刑法规范的目的。在长期的刑事诉讼实践中,也形成了一系列被追诉人的具体诉讼权利。有研究认为,具体的诉讼权利相对于宪法权利而言可谓普通法权利,意即在被追诉人权利宪法化的世界性背景下,仍然有一些被追诉人的权利来源于刑事诉讼法等普通法律。这类权利包括听审权(又可进一步细分为诉讼信息获得权、请求表达权、请求注意权)、辩护权、在场权、申请调查证据权、对质权、诘问权、救济权,等等。


  (二)被追诉人权利保障的意义


  为什么在刑事诉讼中要保障被追诉人的权利?这涉及刑事诉讼法的基本价值取向。一般而论,刑事诉讼的首要目的在于实现刑法,在查明案件真实的基础上惩罚犯罪。然而,从刑事诉讼的历史上看,单纯追求犯罪的惩治很可能会丧失更大的法确证利益:为了惩治犯罪而不择手段地侦查、控诉和审判,将被追诉人视为刑事诉讼的客体,将人视为手段予以惩治,反而动摇了良善公民对于国家法律秩序的信赖和尊重。这曾经是世界刑事诉讼史上最不光彩的一页。


  目前来看,世界文明诸国普遍将被追诉人权利保障与打击犯罪等量齐观。甚至,“犯罪嫌疑人、被告人权利是否确实得到保障,是判断一国刑事诉讼立法、司法是否文明、是否科学的一个重要维度”。但是,仅仅从理念上论证为什么要保障被追诉人的权利,还难以完整地说明更深层次的规范原因。以下拟从实力衡平、公正司法、刑罚正义三个具体方面予以进一步论述。


  1.实力衡平


  众所周知,现代刑事诉讼的重要原则在于国家追诉。由于犯罪不仅侵害具体的被害人利益,同时也有损于国家和社会利益,所以国家必须承担追诉的义务,意即“国家不但对于犯罪有实体刑罚权,更重要的是,实现该实体刑罚权也是国家的任务”。国家追诉原则要求国家必须具备进行追诉的能力,由此,世界各国普遍设置了专业化的犯罪侦查和起诉部门来侦办刑事案件,形成了现代意义上的侦查机关、检察机关。一方面,这些机关是以强大的国家强制力作为后盾,能够充分、有效地打击犯罪;另一方面,在长期的刑事司法实践中,国家也逐渐拥有了专业化的人员、技术和资源配置。


  相较于侦查机关、检察机关,它们的“对手”,即被追诉人,无论在权利还是专业实力上均对比悬殊。刑事诉讼强调控辩平等,然而,如果只是形式上的平等,即控辩双方平等出庭、平等对话,则难以扭转实力悬殊带来的实质不平等。“纠正和改变控辩力量先天失衡状况的路径唯有刑事诉讼权力(利)和义务的理性配置——平等武装”,要实现平等“武装”被追诉人和刑事追诉力量,就不能是形式意义上的平等,而应当是实质意义上的平等。因此,现代刑事诉讼法选择了将更多的权利赋予被追诉人,将更多的义务课于刑事诉讼中的国家追诉机关。


  2.公正司法


  实力衡平并不是目的,而是实现公正司法的手段。无论何种诉讼模式,诉讼平等都不是诉讼的目的,而是实现正当程序的手段。任何诉讼的目的都只可能是作出公正的司法处置,刑事诉讼也概莫能外。


  如果控辩双方居于完全不对等的地位,则有碍于公正司法的实现。按照一般经验,真理总是越辩越明。但是越辩越明的前提是对立双方能够展开充分、有效的对话与辩论。如果所谓的“辩论”只是实力居于碾压性地位的一方自说自话,则很有可能变成“一言堂”而压制对方的表达,更不利于真相的查明。从反面看,在刑事诉讼中居于明显弱势一方的被追诉人,即便希望展开充分、有效的辩论,以其所能掌握的资源、权利、知识来看,也难以匹敌国家追诉机关。如果不扭转控辩双方的严重不对等地位,则难以进行可靠的事实查明,进而影响公正司法。


  为此,妥当的解决办法是赋予被追诉人更多的辩护权利。现代刑事诉讼一方面将辩护权上升为一项宪法性权利予以保护,普遍保障被追诉人聘请专业辩护人的权利,以扭转专业知识上的不对等局面;另一方面,又设置了沉默权、不得自证其罪、非法证据排除等制度,对被追诉人在侦查、起诉和审判中的权利予以“超强化”保护,以期扭转被追诉人和国家公权力在权利与权力对比上的悬殊地位。这些举措都是为了能够切实维护控辩平等,让案件事实真相能够在平等的控辩交锋中得以查明,最终实现司法公正。


  3.刑罚正义


  刑罚缘何正义,这涉及刑罚的正当性问题。不能单纯以量刑公正来论证和替代刑罚的正当性。在刑法领域,刑罚正当性主要通过刑罚的目的来证成。其基本逻辑在于,刑罚的目的不是单纯的以暴制暴、同态复仇,而是一种并合主义的刑罚目的。具体而言,刑罚不仅用于抵偿犯罪人造成的有责的不法,实现刑罚在规范而不是自然意义上的报应目的,还可以通过一般预防和特殊预防实现保护法益的目的。


  从程序法的角度看,定罪与量刑是刑事诉讼的关键审理内容,因此,刑罚的正义当然需要通过正当程序来加以实现。一次不公正的量刑会影响人们对于法制的信赖;同样地,一次不公正的量刑审判,哪怕得出的是公正的量刑,也同样会影响人们对于国家法秩序的尊重。国家对被追诉人定罪量刑,其正义性在于,国家充分保障了被追诉人的诉讼权利,被追诉人是在平等、公正的诉讼环境中被定罪处刑的。设若被追诉人是在被压迫、不平等的诉讼中被定罪量刑,则会让国民误以为国家之所以可以对公民施以刑罚,不是因为犯罪需要处罚,也不是因为刑罚具有正义性,而纯粹是因为国家具有强制力、可以任意施加刑罚而已。在这样的状况下,即使量刑最终是公正的,人们也可能因为程序的不公正而产生“以暴制暴”“弱肉强食”之感,从而影响国民对国家法制的信赖。要避免出现这样的尴尬处境,唯有实质性地保障被追诉人的诉讼权利,使被追诉人能够充分、有效、平等地参与刑事诉讼。这样,即便最终定罪处刑,也能使人信服与尊重这样的司法判决,从而在程序方面确保刑罚适用的正当性。


  (三)人工智能体刑事诉讼中的权利保障问题


  刑事诉讼法通过赋予被追诉人刑事诉讼主体地位,进而保障其正当权利,来实现实力衡平、公正司法和刑罚正义。假定人工智能体能够成为刑事责任主体,那么其进入刑事诉讼之中后,是否也存在类似的权利保障需求呢?依循前文的分析,从宏观层面看,确认人工智能体的法律主体地位,其目的在于保障人类而不是人工智能体的权利,因此,逻辑上可以原则性地认为,人工智能体在刑事诉讼中的权利保障并不那么重要。对此,还可以作进一步分析。


  一方面,对比起来,人工智能体与国家公权力的实力并不悬殊。人工智能体法律主体地位确立的前提是“强人工智能时代”人工智能已经具有了高度发达的智慧。这种高度发达的智慧与理智甚至可能在某些方面超越人类。甚至可以认为,如果单纯以理性作为衡量是否应当具有法律主体地位的依据,那么恰恰应该赋予人工智能体而不是人类以法律主体地位。具体到刑事诉讼中,高度发达的人工智能完全可以比人类更加睿智地学习、理解、运用法律,解决法律问题。事实上,我们现在已经在利用人工智能完成诸如类案推荐、量刑辅助、证据提示等法律事务,并且取得了较好的效果,甚至已经有人讨论人工智能是否影响到人类的“司法主体地位取舍”。因此,假设有一天人工智能体坐在了被告人席位上,在不考虑“智慧公检法”的情况下,它与国家追诉机关相比究竟孰强孰弱,恐怕会完全反转。甚至,恰恰是人工智能体在实力上具有的相较于人类的优势,为人工智能体获得权利保障提供了正当性支撑——毕竟“实力界定权利”,当出现实力超越于人的实体时,可能就不是人类“主动”赋予人工智能体权利,而是人工智能体凭借其优势实力“要求”人类给予权利了。因此,赋予并保障被追诉人诉讼权利,进而维持控辩平等,这种传统的刑事诉讼原理,完全不需要也不应该适用于人工智能体;相反,我们应该思考的是,如何加强国家追诉力量,以免在人工智能体面前一败涂地。


  另一方面,人工智能体的刑罚正义莫衷一是。目前来看,学界关于人工智能体能否承担刑罚、如何承担刑罚尚存较大争议。有学者认为,人工智能体可以承受刑罚,只不过需要专门配置适合于人工智能体的刑种,即删除数据、修改程序和永久销毁。也有研究提出,单纯销毁人工智能体并不人道,也不具有效率,而应通过剥夺人工智能的“思考-行动权”来惩罚人工智能体。反对者普遍认为,人工智能体不具有受刑能力,故而没有可能通过刑罚方式实现对人工智能体的制裁。在笔者看来,人工智能体是否具备受刑能力属于“猜想级”的问题,上述讨论也完全基于研究者个人的理解与想象,在缺乏相应学科与技术知识的背景下,不同理论见解难以直接指导实践,关于是否能对人工智能体施加刑罚也难以得出答案。因此,是否需要通过刑事诉讼的正当程序来实现刑罚正义,也成为了一个未知数。况且,对刑罚正义性的要求具有深刻的伦理与心理学原因,即人类在处罚同类时的同感心与同理心要求惩罚必须适当、人道和公正。平心而论,即便可以对人工智能体施加刑罚,事实上也不会被视为对人类的同类进行惩罚。从直观的经验感受出发,很难预期人类会对人工智能体产生基于同类的同情与尊重。故而,通过刑事诉讼实现刑罚正义的功能在面对人工智能体犯罪时面临着两大疑问:有没有专门适用于人工智能体的刑罚;若有,这种刑罚是否需要刑事诉讼正当程序实现刑罚正义。


人工智能体在刑事诉讼中的程序问题


  (一)思维的解析与事实的还原


  前文已经提到,刑事诉讼中存在发现真实与保障人权的对立。之所以会出现这样的对立,关键在于人类思维的不可解析性与还原案件真实之间存在矛盾。从理论上看,任何案件真实都是不可能完全回溯性地被展示和发现的。证据法理论认为,证明本身是有限度的,对客观真实的反映总是盖然性的,只能达致“法律上的真实”而非“绝对真实”。但是,案件的真实仍然存在于人类的大脑思维之中,只有人类自己才能明白自己做过什么、事实是怎样的。然而,由于人类思维不可解析,所以在刑事诉讼过程中,侦、诉机关往往使用逼取口供的方式强迫被追诉人吐露其思维,因而严重侵犯人权,产生了发现真实与保障人权之间的对立。


  可是,当人工智能体进入刑事诉讼中成为被追诉人之后,是否还存在思维的不可解析与发现真实之间的矛盾呢?根据人工智能的基础知识可以认为,人工智能体是通过算法模拟了人的思维,如果“终极算法”最终能够产生,那么“所有知识,无论是过去的、现在的还是未来的,都有可能通过单个通用学习算法来从数据中获得”。而算法本身是可以被解析的,这就意味着:一方面,人工智能体可以通过算法获得独立意识和思维,作出应当“负责的个人行为”;另一方面,人工智能体的意识和思维又可以通过对算法的解析而被人类充分了解。由此,我们便可以发现,传统刑事诉讼中由人类思维的不可解析性导致的发现真实与保障人权之间的紧张关系,在人工智能体身上已不复存在。如果人工智能体的思维能够通过算法的解析而为人所知,那么,人工智能体在技术上是不可能保有秘密的,它的所作所为、所思所想完全可以通过技术手段而为人类所探知。由此引发的关键问题是,基于人类思想不可探知、不可解析,进而不能真正发现案件绝对真实的假设而建构起来的刑事诉讼理论,是否在引入人工智能体这一新型“被追诉人”以后出现了巨大变化,以致完全动摇了刑事诉讼的理论基础呢?对此,需要进一步研究。


  (二)人工智能体进入刑事诉讼的程序问题


  1.供述自愿性


  刑事诉讼法普遍设置了沉默权或不得强迫自证其罪制度,其原理即为前述之人类思维不可解析与发现真实之间的紧张关系。一方面,人类内心世界难以为人所知,案件真实可以作为秘密而被坚守;另一方面,为了实现司法公正,又必须查清案件真实,所以又有强迫被追诉人展露内心世界的强烈需求。沉默权与不得强迫自证其罪制度就是为了防止侦、诉机关为发现案件真实而不惜侵害被追诉人权利、逼取证据的现象出现,从而保障被追诉人的正当权利。在美国法中,此即为供述自愿性保障之真意,被追诉人非自愿的供述可能成为非法证据而遭到排除。


  人工智能体的供述自愿性是否需要保障呢?首先,什么是人工智能体的供述?绝大多数人工智能体不一定,甚至根本不可能具有实际的交流能力。“供述”的前提是能够以人类的方式进行交流,然而人工智能体的交流主要是通过外部行为和内部数据实现的,并不可能像人类一样通过口供形式作出供述。更可能的场景是,人类通过分析其算法、数据而获知人工智能体交流的具体内容。其次,人工智能体的思维可被解析。如前所述,人工智能体的思维与意志是由算法所决定的,而算法本身是能够为人所发现、分析与理解的。因此,人工智能体的思维是可被解析的,在技术上人工智能体面对人类时就仿佛一个完全敞开心扉的人一样,其内心世界完全袒露,并不设防,人类可以轻而易举地感知其思维活动,从而还原案件真实。最后,思维可被解析的人工智能体不需要供述自愿性保障。之所以要对人类的供述自愿性加以保障,一方面是因为,人类的思维不可解析,但迫于“发现真实”的压力,追诉权力有可能采取损害人类基本权利的方式逼取供述,这可能导致“屈打成招”;另一方面是因为,人类不能作为刑事诉讼的客体对待,即便是对被追诉人,也需要保护他们的基本权利。但是,人工智能体在哲学意义上具备如同人一样的主体性吗?尽管有人认为,人工智能体通过算法模拟了人,打破了人与物二分的主客体结构,进而打破了自康德以来以人为中心的哲学体系,但是,从人类的经验感受出发,我们真的能够在刑事诉讼中将人工智能体当作人类看待并赋予其基本人权吗?如果坚持赋予人工智能体法律主体地位是为了保护人类而非人工智能体的权利这一基本立场,那么显然,上述问题的答案是否定的。我们不能期望,当人工智能体“犯罪”后,人类意图读取其数据并加以解析时,还要思考这样做是否属于“强迫人工智能体自认其罪”,是否属于“侵犯了人工智能体的沉默权”。


  2.辩护


  被追诉人在刑事诉讼中最为重要的权利是辩护权,辩护权对于控辩平等、司法公正、程序正义具有重要意义。从理论上看,正是由于被追诉人在知识、权利和资源上与国家追诉权力悬殊,故而赋予被追诉人辩护权,以期维护“两造对抗”的基本架构,同时,基于“真理越辩越明”的原理,辩护也能对发现案件真实有所裨益。


  但是,这一逻辑并不适用于人工智能体参与的刑事诉讼。其一,如前所述,人工智能体由于其高度智能化,不存在与国家追诉权力悬殊的力量对比。相反,很可能人工智能体的实力还会强于国家追诉权力,“阿尔法狗”在围棋上的表现已经部分证明了这一可能性。因此,辩护本身已经失去了维护控辩平等的意义。其二,人工智能体的思维可被解析,致使人工智能体犯罪案件的真实可被技术手段充分揭露,那么不仅需要思考辩护本身是否还具有“发现真实”的作用,甚至整个庭审在发现案件真实方面是否还有意义也不无疑问。这种情况下,赋予人工智能体辩护权是否属于多此一举呢?


  3.救济


  刑事诉讼一般设置了诸多救济程序或措施,如上诉、审判监督、死刑复核、国家赔偿等等。这些救济程序、措施可以有效地避免司法错误的发生,即便发生司法错误,也可以及时予以纠正和弥补。但是,这类程序设置在人工智能体参与的刑事诉讼中很可能没有实质意义。第一,难以出现司法错误。如前所述,由于人工智能体的思维可被解析,所以案件真实可被充分发现。此时,出现所谓冤假错案的可能性还有多少,值得怀疑。第二,即便出现司法错误,也难以弥补。暂且假定人工智能体可以承担专门的刑罚,诸如删除数据、修改程序和永久销毁等,问题在于,如果已经执行了这些刑罚,则事后通过救济程序发现错误也难以弥补刑罚给人工智能体带来的损害。而国家赔偿也不可能起到作用,因为难以想象国家向机器赔偿一定货币能够产生什么实质意义。第三,对人工智能体的救济没有实际意义。事实上,针对人类自身的司法错误也有不少难以弥补其伤害。例如聂树斌案、呼格案等,当蒙冤者被执行死刑后,这一司法错误已经难以弥补。在终极意义上,即便是被错误关押的蒙冤者,他所失去的自由也不可能弥补。那么,为什么我们还要设置这些救济程序呢?一个重要原因是,人类的尊严与名誉需要保护,沉冤终得昭雪,对于被冤枉者的尊严与名誉意义重大。但是,对于人工智能体而言,讨论形而上的尊严与名誉问题还为时尚早。或许有一天,人工智能体也会要求尊严和名誉,人们也会尊重它们的尊严和名誉。可是这一天还远未到来。


  4.强制措施


  刑事诉讼中强制措施的适用目的主要在于保障诉讼顺利进行。进一步细分,刑事强制措施的诉讼功能可分为六种:“侦查犯罪、证据保全、诉讼要件之确认、诉讼进行之保障、保障判决之执行及预防犯罪。”但是,在面对人工智能体时,强制措施的适用几无意义。从常识出发,本质上作为机器的人工智能体的运作需要能源,只要切断其能源供给,人工智能体就不可能妨碍诉讼进行。由于人工智能体根本上的机器属性,在技术上限制人工智能体的运转是极为简单的;同时,限制运转后读取其存储信息,分析其算法,进而充分发现案件真实,也是完全可能的。因此,适用强制措施根本没有意义。当然,如果反对者认为在未经正当程序的条件下切断人工智能体能源供给、强制停转人工智能体有侵犯人工智能体的自由权、行动权、健康权等“基本权利”之虞,那么,这样的反对并非学术争论,而已经属于意识形态之争了。


迈向侦诉审一体化的人工智能体刑事诉讼


  行文至此,似乎只论述了传统刑事诉讼的诸多理论、制度无法适用于以人工智能体为被追诉人的刑事诉讼,而并未论证人工智能体是否可以成为刑事诉讼中的被追诉人。这是因为,简单地判断人工智能体是否具有刑事诉讼法意义上的主体地位,是没有意义的:是否具有被追诉人地位的问题,不是一个概念之争、理念之争,其间真正应当思考的是赋予被追诉人地位所欲达致的法律效果与目的究竟是什么。孤立地探讨人工智能体是否具有法律主体地位,只能变成观念之争,而缺乏现实意义。只有还原到法律实践中的功能与目的的研究,才具有真实的学术价值。


  进一步看,目前关于人工智能体是否具有法律主体地位的研究都陷入了一个“非此即彼”的怪圈。其实,在“有”与“无”之间完全可以容纳更多的判断类型。以本文所研究的人工智能体是否应当具有被追诉人地位这一问题为例,单纯作出“有”或“无”的判断都难以证成。但是,通过讨论,我们至少可以发现,人工智能体“没有必要”被赋予被追诉人地位。申言之,在“有”与“无”之间,还可以容纳“没有必要”这一类型的判断。因此,在关于人工智能体是否具有各个部门法意义上的主体地位仍然聚讼纷纭的当下,不如转而研究人工智能体法律主体地位的实效性,这样可能会收获更多智识成果,也可能会发现,很多关于人工智能体法律主体地位的讨论都是“没有必要”的。


  不过,本文的论证前提是假定“人工智能体具有刑事责任主体地位,人工智能体犯罪应被处理”。因此,论证了人工智能体没有必要被赋予被追诉人地位仍然不能回应“人工智能体犯罪如何处理”的问题。对此,笔者概要的观点如下:首先,必须在立场上明确,是否赋予人工智能体法律主体地位,前提在于保障人的而非人工智能体的权益。因此,现代刑事诉讼的诸多理论与制度并不适用于人工智能体参与的刑事诉讼。人工智能体没有必要作为被追诉人参与刑事诉讼。其次,当发生人工智能体犯罪且需要定罪处罚时,仍有必要通过一定程序审理。没有必要赋予人工智能体被追诉人地位,不等于人工智能体犯罪不能或不需得到处理,只不过是没有必要适用那些原本设计来适用于人类的刑事诉讼程序,也没有必要像保障人类基本权利那样保障人工智能体的“基本权利”。最后,人工智能体的刑事诉讼程序可以是侦诉审一体化的诉讼模式。所谓侦诉审一体化的诉讼模式,是指大幅度简化诉讼程序,无须严格维持两造对抗、中立审判的诉讼构造,而是由侦到审一体化快速运行的审理模式。在侦查程序中,可以利用技术手段获取人工智能体的数据信息,进而加以分析,发现案件真实;在发现案件真实的情况下,直接作出诉与不诉的决定;审判时,法院完全可以根据已经解析的人工智能体数据信息直接进行裁判,无须执行两造对抗、控辩平等、直接言词的标准庭审程序。


  侦诉审一体化快速审理模式类似于行政治罪模式,即在缺乏辩论、对抗和中立消极审判的条件下快速审判、定罪、量刑。从理论上看,行政治罪模式已经为历史所抛弃,但是,在人工智能体犯罪的诉讼中却有可能发挥适宜的功能。这是因为:其一,人工智能体是否具有“基本权利”、是否需要保护“基本权利”尚不明确,现代刑事诉讼旨在保障人权的一系列制度设计并不适用于人工智能体的刑事诉讼程序。其二,人工智能体犯罪中的案件真实,完全可以靠技术手段而非“精密司法”来发现,也没有必要设置过多的诉讼制度来确保案件处理的可靠性。因此,类似于行政治罪的侦诉审一体化程序能够富有效率地完成处理人工智能体犯罪的任务。


  笔者自然可以预见,有很多反对者会质疑,本文的研究“太不尊重人工智能体的权利”,过分地“以人类为中心”,展现了“狭隘的人本主义倾向”。笔者完全承认这些批评内容。正如前文提到的那样,这样的批评涉及的是意识形态的争论,是研究立场的争论,而不是真正的学术讨论。如果真的需要为此进行辩护,那么只能以下面的话结束本文的研究:人工智能体的权利与尊严或许在未来的某个时候值得全体人类重视和关注,但是,在这一天还没有到来时,请人类先学会珍视和保护自己。  


推荐阅读- 向上滑动,查看完整目录 -


《学术交流》2020年第7期法学要目


【政治学研究】

疫情防控与国家治理研究专题


1.疫情防控中的国家治理特色及其启示
作者:薛明珠(商丘师范学院法学院)
内容提要:2020年初,新冠肺炎疫情爆发,人民群众的生命安全受到了病毒侵害,心理健康受到不同程度的消解,国家经济社会生活被迫按下了“暂停键”,对外交往受到了限制。面对疫情,党和政府反应迅速,积极应对,彰显了中国国家治理特色:党和政府在疫情防控中积极发挥主导作用,中国特色社会主义制度优势是克制疫情发展的重要保障,人民群众在疫情防控中充分发挥了主体意识,医护工作者的社会责任感得到高度体现。我们必须强化核心意识、坚定道路自信、发扬民族精神、重视生态文明。中国抗疫工作给世界树立了一个标杆,为其他国家提供了“政党治理”的中国经验、提供了“危机治理”的中国模式、提供了构建“人类命运共同体”的中国样板。
关键词:疫情防控;国家治理特色;中国特色社会主义;全球治理

【法学研究】

人工智能专题


2.论人工智能法学研究的当下困境
作者:李俊丰(广东第二师范学院马克思主义学院)
内容提要:近年来,人工智能法学成为一个研究热点,产出了不少学术成果,但也被认为存在反智化、“虚热”等不足。具体而言,人工智能法学研究的当下困境主要表现为三方面,即观点鲜明对立、缺乏有效对话,问题意识零散、缺乏理论整合,研究性质模糊、缺乏清晰理路。这些情况的出现跟法学研究者关于法律、法学及“人”本身的看法有关:对法律的理解直接关系到法律变革之可能性是否被接受,这正是当下人工智能法学研究者观点鲜明对立的一个重要原因;对“法学是什么”的理解影响到“非现实性”的法律问题是否纳入到讨论之中;而人类中心主义则令法学研究者在讨论人工智能问题时更容易趋向保守。当前,至少在理论性研究中,参与讨论人工智能法学的研究者应秉持一种较为开放的思维。
关键词:人工智能法学;困境;法哲学;人类中心主义
3.人工智能体刑事诉讼被追诉人地位审思
作者:程龙(云南大学法学院)
内容提要:赋予人工智能体法律主体地位是为了解决人工智能体侵权及犯罪中的责任真空问题,旨在维护人类而非人工智能体的权益。假定人工智能体能够成为刑事责任主体,则其在刑事诉讼中的地位仍然值得思考。在刑事诉讼中,构建被追诉人相关制度是为了充分保障被追诉人正当权利,以实现控辩平等、司法公正和刑罚正义,但这对于人工智能体并无实质意义。同时,由于人工智能体的思维可被解析,加之其物理上的机器属性,导致供述自愿性保障、辩护、救济和强制措施等制度对其而言均无实际意义。因此,不必赋予人工智能体被追诉人地位。对于人工智能体犯罪,可以依照侦诉审一体化的极简版诉讼模式快速处理。以合目的论指引人工智能体法律主体地位研究,而不陷入纯粹理念与意识形态之争,方为学术正道。
关键词:人工智能体;法律主体;刑事诉讼;被追诉人
4.论人工智能侵权责任主体的识别机制
作者:陈和芳(重庆人文科技学院政治与法律学院)
内容提要:由于法律伦理、法律逻辑、技术可能性、社会和谐以及实质性解决纠纷等方面的原因,人工智能不具备作为人工智能侵权责任主体的正当性和可行性。人工智能侵权的责任主体只能是实际造成人工智能侵权行为的人,即自然人或由自然人的集合构成的组织。然而,当前司法实践中仍然缺乏对于人工智能能否作为侵权责任主体的明确规定,缺乏相关责任主体识别的特别机制,与责任主体识别相关的责任承担机制也亟待建立。对此,可以确立由人工智能侵权行为实际控制者承担责任的主体制度,建立人工智能侵权责任主体识别的实施细则,并制定人工智能无害化处理的特殊规范,从而科学构建人工智能侵权的责任主体识别机制,为人工智能的健康发展提供可靠的侵权责任法律保障。
关键词:人工智能;人工智能侵权;责任主体;法律分析;识别机制
5.智能司法的结构性困境与体系性定位
作者:张健一(江苏警官学院法律系)
内容提要:数据燃料先天不足、知识生产及其范式排异、多维技术风险隐忧等因素构成了智能司法的现实障碍。允许人工智能涉入司法行为,关键在于算法可视、运作可控、越轨可诉。智能司法的定位应当是劳务性司法行为的主导者与智识性司法行为的辅助者。智能司法主导劳务性司法行为在提高司法效率的同时,既不依赖过往的司法数据,又不会招致“技术黑箱”等风险,更不会引发司法话语与技术话语的紧张关系。将智能司法定位为裁量性司法行为的辅助者,既坚守了司法的本质,又契合司法公正的内涵,还不会消解行为责任原理。
关键词:算法;大数据;深度学习;技术风险;因果思维





《学术交流》杂志是黑龙江省社会科学界联合会主管、黑龙江省社会科学信息中心主办的社科类综合性学术期刊,1985年创刊,现为全国中文核心期刊、中国人文社会科学核心期刊、CSSCI扩展板来源期刊和RCCSE中国核心学术期刊。该刊刊发哲学社会科学最近研究成果,为改革开放和社会主义现代化建设服务,为构建社会主义和谐社会服务,为党和政府决策服务。


-END-


责任编辑 | 华铭章
审核人员 | 张文硕

往期精彩回顾

百万法律人都在用的北大法宝详细介绍!

宋旭光:论司法裁判的人工智能化及其限度

刘东亮 | 技术性正当程序:人工智能时代程序法和算法的双重变奏

陈山 何昕航:人工智能时代的法科教育变革

李伟民:职务作品制度重构与人工智能作品著作权归属路径选择



点击相应图片识别二维码

获取更多信息

北大法宝

北大法律信息网

法宝学堂

法宝智能


点击「在看」,就是鼓励
: . Video Mini Program Like ,轻点两下取消赞 Wow ,轻点两下取消在看

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存