热议|人工智能医疗服务的法律责任

编者按

国务院办公厅于2018年4月发布《关于促进"互联网+医疗健康"发展的意见》，大力推动发展“互联网+”医疗服务，“互联网+”人工智能应用服务。近期，广东省宣布：加快发展“互联网+医疗健康”，将符合条件的互联网诊疗服务纳入医保支付范围。人工智能技术发展在世界范围内方兴未艾，但我们认为，相比于技术，我们的法律规范和伦理意识尚未达到助力其快速发展的程度。今天，青苗法鸣特地推出一篇专稿，探讨相关问题。同时，就“人工智能+”话题向各界人士征稿，收稿邮箱：[e-mail]

热议|人工智能医疗服务的法律责任

作者简介

李兴臣（年龄保密—）男，江苏徐州人，上海政法学院2016级刑法学硕士研究生，中国法学会会员，上海市法学会特约撰稿人，上海政法学院检察制度比较研究中心学术助理。

原文发表在《医学与法学》2018年第4期，引用时请注意学术规范。

|封面与下文图片皆源于网络

【摘要】医学已经越来越多地将大规模高质量数据集与复杂的预测算法相结合，以识别和使用多个患者特征之间隐含的、复杂的连接。这些连接将让医生能够提高诊断和决策的精准性和正确性，从而更好地识别和治疗疾病。但是人工智能的AI诊断技术在介入医疗服务的过程中，也难免会出现误诊以及其他医疗错误，甚至会导致医疗事故的发生，进而产生一系列法律责任的承担问题。AI诊断主体在法律上既是医疗器械又是执业医师，对其临床准入标准应参照当时的医疗水平，同时，法律对传统医疗设备的规制也应当适用AI诊断。

【关键词】医疗服务；人工智能；AI诊断；法律责任

一、人工智能与医疗服务概述

（一）人工智能的概念、特点和分类

人工智能(artificial intelligence, AI)自1956年在Dartmouth会议上被提出至今，学界尚没有统一概念[1]。理论界普遍认为:人工智能作为研究、开发用于延伸、模拟和拓展人类智能的理论、技术及应用系统的一门新技术科学，本质上是计算机科学的一个分支，是试图制造与人类智能相似的智能机器，让机器完成曾经只有人类才能完成的工作，包括:机器学习、语言处理、逻辑推理、意识规划、语音识别、社交行为等。

人工智能技术是架构在三大底层技术基础之上的综合技术。首先，图像识别技术，它是指对图像进行对象识别，以识别各种不同模式的目标和对象的技术。我们常用的谷歌图像搜索引擎即典型的图像识别技术。第二个基础技术是语音识别和自然语言处理，例如按键、二进制编码或者字符序列，其目的是将人类语音中的词句内容转变为计算机可读的数据。与人类识别和确认语音信息的方式不同，后者试图识别或确认语音信息的发表人，而不是其中所包含的词汇内容。自然语言处理技术应用到了机器翻译领域，如机器代替人类进行同声传译。第三个基础技术是知识图谱，它是一系列展示知识发展进程和结构关系的图形，利用可视化技术显示知识资源及知识载体，分析、挖掘、构建、与展示知识及知识间的关联。人工智能的形态具体表现为:弱人工智能(artificial narrow intelligence)、强人工智能(artificial general intelligence) 、超人工智能(artificial super intelligence)。弱人工智能可以制造出擅长推理、解决问题的智能机器人，但其并不拥有真正的智能，与强人工智能的本质区别在于有没有意识。如果有意识、自我、创新思维等即为强人工智能。强人工智能的各方面能力已经能够与人类智能相提并论，超人工智能是指在包括科学创新、通信、社交能力在内的所有领域都比人类聪明[2]。现阶段，我们仍旧处在弱人工智能阶段，人工智能还没有自我意识和创新思维。

（二）医疗服务的界定

医疗服务自古有之，是人类社会必备的服务项目。但究竟什么是医疗服务，学术界及实务界尚无统一界定。主要有以下两种观点。

第一种观点认为，医疗服务内容等同于医生的职责范围。因此，医疗服务就是医务人员以及医疗机构向人们提供的维护健康和防治疾病的服务[3]。第二种观点认为，医疗服务的内容应当大于医生的职责范围。医学家Henry E. Siegrist就持后一种观点，其曾经指出:“医学是自然科学，更是社会科学。防治疾病、使患者康复是医学研究的目的之一，医学的最终目的应当是社会。每一个医学行为都是涉及医患双方的行为，更广泛一点，医学行为涉及的是医学团体以及社会。因此，医学便是这两大人群之间在各方面的联系。”本文更加赞同第二种观点，即医疗服务涉及的内容是多方面的，远远超出普通医生的职责范围。

（三）医疗服务行为的特征

医疗服务行为具有普通民事法律行为的一般特征，其实质是一种民事法律行为。但与一般民事法律行为所不同的是，医疗服务行为具有很强的目的性，即在整个医疗服务过程中，无论是医生还是患者，其目的都是治疗疾病。除此之外，医疗服务行为还具有以下特点：

首先，医疗服务行为具有潜在的风险性。虽然现代医疗服务行为都是建立在反复科学实验和不断的经验总结的基础之上，但是在一定时间和阶段内总是会存在某种失误。另外，也可能由于患者病灶的不同以及患者不同的体质，而导致医疗风险的发生[4]。

其次，医疗服务行为具有试验性。医生在给患者提供医疗服务的过程中，需要时刻关注患者的病情变动情况，以便于及时调整治疗方案。因此，在这整个过程中，医疗服务行为充满了不确定性和探索性，医疗行为往往具有试验的意味。基于医疗服务行为的这一特点，在医疗服务过程中致使患者损害的，医生并不为此承担无过错责任，而只能追究医疗机构以及责任医师的过错责任。从而有利于鼓励医疗服务人员积极探索新的问题，提高整体医疗水平。另外，医疗服务行为附随保密义务。无论是医疗服务人员还是医疗机构，在对患者进行诊断过程中都会获取患者的隐私信息，其对患者也就产生了天然的保密义务。

二、人工智能在医疗服务领域的应用

对目前正在开发的许多令人兴奋的技术来讲，人工智能和机器学习算法是这些技术的核心。从特斯拉的自动驾驶到亚马逊的Alexa或谷歌之家的家庭助理，人工智能迅速成为科技行业的新焦点。即使是信息技术领域以外的人也注意到了，哈佛大学的伯克曼克莱因中心和麻省理工学院媒体实验室正在合作建立一个2700万美元的基金，以确保人工智能以道德和对社会负责的方式发展。人工智能结合深度学习与大数据的应用，能够对医疗诊断及决策的制定产生实质性影响，目前人工智能在医疗服务方面的有关应用主要涉及以下几个方面。

（一）人工智能影响医疗决策

随着人工智能的进步，将AI引入医疗诊断和决策有可能大大减少医疗错误和误诊的数量，并允许基于我们可能不知道的生理关系进行诊断。正如Price指出的那样，“一个庞大的，丰富的数据集和机器学习技术能够根据患者特征和预期治疗结果之间的复杂关联进行许多预测，而无需明确识别或理解这些连接[5]。”

除此之外，人工智能医疗保健工具已不再局限于科幻小说领域。 就在2015年4月5日，互联网健康公司HealthTap宣布推出一款人工智能产品，一款面向消费者的诊断应用程序，患者可以将其下载到名为Dr. AI的手机上[6]。随着这些算法的扩散和改进，医生们能够依靠它们的准确性和精确度，逐步取代传统的医疗手段。那些开创性的医疗保健人工智能尚未着手解决防御性药物问题，但他们很可能已经找到了解决方案。

（二）代替人类进行医学诊断

以机器人工智能来代替人类医生进行医疗诊断，这听起来像天方夜谭，其实这对人工智能来说并没有那么困难。就拿图像技术来说，现阶段的图片数据分辨力已经达到了0.01mm，已经接近肉眼分辨水平，在此基础上，结合人工智能的深度学习能力，其完全可以取代人类进行医疗诊断[7]。一旦AI获得了学习能力，其诊断水平便可以通过大量的实例训练从而得以光速般的进步，现有医学院的培养速度无法与之相提并论。一般临床医学实际上是依据概率来做出诊断，比如医生在看CT片的时候，根据病灶的规定得出结论，其结论就是根据医生的估算所得。而AI也完全可以根据概率对疾病做出相应的判断，比如乳腺细针穿刺抽吸的检测样本符合乳腺癌病理切片特征的概率达90%即可确定为乳腺癌，或者某糖尿病患者眼底彩照符合同际糖尿病视网膜病变标准概率达95%便可以确诊为糖尿病视网膜病变[8]。除此之外，AI诊断还具有普通医师所没有的能力，即AI诊断的如下特点。

首先，AI诊断是在现有医疗数据的基础上进行整合学习，从而获得智能诊断能力。因此，现有医疗数据库越大，其可供人工智能吸收学习的内容便越多，其获得的诊断水平也就越接近最高水平的医务人员。其次，AI诊断拥有深度学习与自我迭代的功能，因而其能够持续提高诊断的准确率。再结合上一特点，人工智能超越现阶段最高医疗水准的医生并非难事。最后，人工智能的诊断具有自动化的特点，其拥有超高诊断效率，这种高效率是人类所无法企及的。但是，随着其诊断效率的持续提升，AI诊断发生错误的绝对值也势必随之增加。假如AI诊断存在某些程序性bug，该bug便可能导致误诊，再加之AI程序所具有互联互动性，将会在人群之中引发灾难性的误诊数量。

三、医疗服务中人工智能的法律责任

（一）人工智能在医疗服务中的法律地位

人工智能在医疗服务领域的法律地位应当是怎样的？质言之，我们的法律应当将人工智能看作是人还是物？人工智能具有其他物甚至是人类所不具有的智能功能，可见将其视为物是不合适的。从另一方面来讲，人工智能是由人类生产制造出来的各种电子元器件组成的，从而将其视为人类也没有说服力。本文将从AI诊断技术出发，探讨人工智能在医疗服务领域的法律地位。

1. 做出AI诊断的主体在法律上是医疗器械还是医生

AI诊断主体是医疗器械还是医生，质言之，其在法律上是人还是物？这是探究医疗服务人工智能法律责任最基本也是最重要的问题。只有在法律上界定了AI诊断的法律身份时，其他的相关问题，诸如人工智能在医疗服务领域中应承担的法律责任等便自然会迎刃而解。

人工智能在法律上是否能够看作民事主体。所谓民事主体，就是指能够参与民事法律关系，且享有民事权利和承担民事义务的主体。我国《民法总则》中规定的民事主体主要包括法人和自然人两种类型。因此，根据传统法律观点，AI诊断主体并不具有民事主体的资格。但是，随着AI诊断技术的迅猛发展，特别是在将来其诊断水平超过人类医生的情况下，法律是否应该考虑赋予AI诊断民事主体资格，这是医疗服务领域亟待解决的问题之一。而且，在很久之前，对于该问题的争论便一直存在。2016年，欧盟委员会的法律事务委员提交的一项动议，建议将最先进的人工智能机器人的身份定位为“电子人”。由此引发了经久不息的争论，至今尚未消解。试想一下，如果该项动议获得欧盟委员会的批准，所谓的“电子人”便获得了特定的权利和义务，并且其还需要像正常的人类一样进行登记、缴纳税款等，从而使AI诊断主体真正的获得民事法律主体的地位。

2.AI诊断的主体既是医疗器械也是医生

笔者认为，在人工智能发展还处于初期的现阶段，不能将AI诊断简单的定义为人或者物，而是一定条件下的物或一定条件下的人，即应当以AI诊断的具体应用场景对其作人或者物的定性。随着人工智能技术的裂变式发展，人类对自身的理解也必将随之改变。在法律上将某类实体看作既是人又是物其实并不奇怪，在现代生物医学领域，这种例子很常见。比如，在中国首例体外受精卵继承权纠纷案中，一审法院认为，体外受精卵不是“物”，“对手术过程中留下的胚胎所享有的受限制权利不能被继承”，二审法院则认为，体外受精卵是在一定条件下可以视作“财物”予以继承。

首先，AI诊断在医疗服务中可以被视为人，因为AI诊断和CT机、X光机等传统医疗设备不同（传统的医疗设备所拍摄的图片不能脱离医生的诊断而给出确定的答案）,它可以在医疗数据统计分析的基础上，推理出具有医疗价值的诊断结论。该诊断结论在一定程度上等同于医生的诊断结论。同样，AI诊断也会有失误，这就类似于医生的误诊。所以，AI诊断主体在法律上应当被视作人，即医生。就此，可以认为，还要对其设立同医生资质一样的准入标准。

其次，AI诊断的主体毕竟是由各种元器件所组成的，其所使用的算法系统、数据分析系统都是由人类设计并受人类控制的。因此，AI诊断也符合传统医疗器械诊断的特征，所有关于传统医疗器械的法律法规同样适用于AI诊断。所以，诸如《医疗器械管理条例》、《产品质量法》等法律法规中有关临床试验准入制度、产品质量责任的规定同样适用AI诊断。综上可知，AI诊断不仅要受到作为人类医生的责任约束，更要满足作为医疗设备的各项要求。

（二）人工智能造成医疗损害后的责任承担问题

1.传统医疗服务中的法律责任由谁承担

传统意义上，医疗事故纠纷就是一种特殊的侵权责任纠纷，当医生提供的诊疗偏离公认的标准从而构成疏忽或鲁莽时，医生应负责任。该系统围绕作为值得信赖的专家（医生）概念而发展，并且大部分假设诊断或治疗医师对其决定负有全部责任。因此，如果所提供的诊疗是疏忽或鲁莽，则应负责任。

中国《侵权责任法》第54条规定，责任医师或者医疗机构对患者在医疗服务中所受的损害有过错的，医疗机构应当承担赔偿责任。笔者认为，该规定缺乏相应的弹性，有一刀切之嫌疑。如果医疗服务人员是医疗机构的职员，则其误诊行为便可以被认定为职务行为，用人单位即医疗机构就必须要代替其承担相应的法律责任。如果该医疗服务人员不是任何机构的职员，而是个体单位的，其必须自己为其医疗过失承担相应的法律责任。

2.人工智能引发的医疗过失归责难题

正如前文所述，在人工智能介入医疗决策领域之后，可能会提高决策的准确性从而大大减少医疗失误。然而，通过将部分医疗决策转变为人工智能的算法，当医生由于算法错误而采取不适当的治疗措施时，谁应承担法律责任？如果AI诊断准确率比普通医生高，则使用该诊断系统始终是统计学上最好的选择。在这种情形下，绝大部分医生会选择听从AI诊断的那套科学算法给出的决策建议，那么传统意义上由于医生鲁莽和疏忽导致的医疗过失的概念可能就不再适用了。人们很容易明白为什么人工智能会影响传统上应用于医生决策的方式进而改变医疗事故的概念，但尚不清楚在借助AI而误诊，从而致使患者遭受损害时应由谁承担法律责任。 该AI诊断系统的生产商是否应承担责任？毕竟，他们确实生产了导致患者损害的产品。 因此，有些人认为， AI的生产者或设计人应当对AI误诊承担法律责任。

笔者反对上述归责方式，传统的企业、商家对其产品承担的商品侵权法律责任可能并不适合AI诊断的情况。传统产品责任原则对大多数消费品实行严格责任。如果一罐汽水爆炸并伤害某人，那么生产该汽水的公司即使在制造或分销过程中没有做错任何事情也要承担责任。严格的赔偿责任对大多数消费类产品都适用，但对于AI诊断来说可能太麻烦，这是因为医疗诊断本质上是不完美的。无论多么科学的人工智能、也无论其拥有的怎样发达的AI算法，或者比人类医生好多少，它都有犯错的可能性或者偶尔会出现错误。因此，即使是最发达的AI诊断技术也会在严格责任制度下产生潜在的重大赔偿责任。举一个具体的例子，斯坦福大学的研究人员开发了一种智能诊断算法，可以诊断黑素瘤，也可以比专家皮肤科医生更好。 随着该算法的改进，它可能成为尽早且经常识别黑素瘤的重要部分。 然而，该算法的准确率低于75％。 因此，该算法尽管对人类医生的诊断有潜在的改善，但仍有误诊的可能性存在。如果让该系统的设计人或生产者为此承担医疗过失责任，则其很有可能会停止设计、开发这些算法。这样，我们便无法深入挖掘机器学习算法和人工智能的巨大潜力，以提高我们的诊断和治疗能力，最终受到损失的还是患者。

3.对AI误诊归责方式的建议

AI误诊不可避免，同传统医疗服务一样，它属于“不可避免的不安全”产品，针对这类“产品”应当存在另一种制度。

首先，参照药品的法律责任归属。药品研发商为了尽可能规避产品的并发症或副作用，在推出新药之前都要做大规模双盲对照试验[9]。竭尽可能的将药品可能的过敏反应和副作用都找出来，因此，一款新药从研发到面市往往经过十几年甚至数十年时间。这是由药品的内在危险性决定的，药品不可避免具有毒副作用，俗话说“是药三分毒”，那么作为一种科学算法的AI诊断系统也就不可避免的在一定时间内存在一定概率的错误，即将AI诊断的失误类比药品已知的毒副作用。如果制药公司没有在药物的安全性和有效性上进行足够的检测，导致在使用过程中产生了未知的失误，则制药公司便为此承担法律责任。同样的，如果AI诊断系统的过失符合医疗领域固有的规律，即过失程度在预计的风险内，则不能对此次AI误诊过分苛责。

四、对完善人工智能临床准入标准

及监管办法的建议

由于法律固有的滞后性，立法的速度永远追不上科技发展的步伐，这在人工智能领域尤其如此。笔者认为，人工智能应用于医疗领域，首先要取得相关部门的许可。因此，应当跟进立法，使对人工智能在医疗服务领域的监管有法可依。如前所述，AI诊断主体在法律上既是医疗器械又是医生，因此，AI诊断主体既要满足医疗器械的临床准入标准，同时也要符合医生的临床准入标准。

（一）现有法规对医疗设备及医务人员准入标准的规定

1.针对医疗设备

我国《医疗器械注册管理条例》第二条规定，在中华人民共和国境内使用、销售的医疗服务器械，应当依照本条例的规定申请注册或者办理备案手续。国家为了进一步加强对医疗服务器械产品的监督和管理，从而更好的开展医疗服务器械技术评审以及注册申报工作，我国食品药品监督管理总局出台了一系列指导文件。这些指导文件包括《医用内窥镜冷光源注册技术审查指导原则》、《C反应蛋白测定试剂盒注册技术审查指导原则》、《医学图像存储传输软件（PACS）注册技术审查指导原则》、《白蛋白测定试剂（盒）注册技术审查指导》、《碱性磷酸酶测定试剂盒注册技术审查指导原则》等，在医疗领域起到了良好的规制作用。

2.针对医务人员

中国医疗卫生领域相关立法规定医生的准入资格包括一般准入资格以及特殊准入资格。获得医生执业身份的前提是考取医师执业资格证[10]，并在此基础上进行临床试验从而取得执业医师资格证，这便是所谓的一般准入资格。根据《医师注册管理办法》相关规定，经过考核并取得医师执业资格证的医生，必须在注册地省级行政区划范围内执业，即医生职业资格证是采取的省级行政区划制度。如果该医生想要到省外执业，其必须在该省另行申请注册。特殊专业的准入资格指的是对医疗技术要求十分苛刻的医药学科，比如神经外科、心脏搭桥手术、器官移植手术等等，这些学科的应当经过特别考核才能取得相应的执业资格。

（二） 对AI诊断进入临床应用的法律标准的建议

只有当人工智能的诊断水平达到医生的一般准入资格以及特定学科的准入资格要求时，才应当准予其进入医疗诊断从而开展临床应用。但仅达到人类医生的准入资格是远远不够的。如前文所述，AI诊断具有作为自然人的医生所不具备的三大特点。基于此，本文认为，应当参照人类的最高医疗水平制定AI诊断的技术准入标准。因为，AI主体的诊断水平是以自然人医师的诊断水平为参照的，故AI诊断应当以自然人医师所能达到的最高诊断水平为临床准入标准。中国侵权责任法规定，医务人员的注意义务以当时的医疗水平为限： “医务人员在诊疗活动中未尽到与当时的医疗水平相应的诊疗义务，造成患者损害的，医疗机构应当承担赔偿责任。”[11]为了最大限度的保障患者的权益，对AI诊断主体的要求应当高于“当时的医疗水平”。

AI诊断主体作为医疗器械，其必须符合有关医疗器械准入制度的规定，如上市许可、器械注册、临床试验等。此处的临床试验是以患者为实验对象的，当AI诊断主体的确诊率达到临床试验的要求时，并不必然符合上市要求。因为，要对AI诊断采取最高的标准，即要求其确诊率在法律上达到当时最高医疗水平。

五、结语

随着人工智能在深度学习、图像识别、神经网络等关键领域的技术突破，大大推动了人工智能在医疗服务领域的应用，从而诞生了“人工智能+医疗服务”的概念。“人工智能+医疗服务”主要集中在AI学习诊疗及分析这类领域，并且其比无人驾驶汽车等其他人工智能产业受到更少的法律限制，因而AI诊断更率先落地。由此，关于人工智能在医疗服务领域中的法律责任以及行业准入制度等问题也亟待法学学者与医疗行业的专业一道解决。鉴于医疗行业的特点，AI诊断主体应当满足医疗器械的临床准入标准，同时在诊断水平上，应达到当时最高的医疗诊断水平。 

推荐阅读

投稿邮箱：[e-mail]

主题；篇幅；体例

青苗学人交流群

长按扫描二维码添加青苗微信号，加入青苗学人交流群，一同交流、分享！

本文责编 ✎蒋浩天

本期编辑 ✎梁梓韵

点击一下文末广告，给小编加个小鸡腿~