刘朝：远虑与近忧：对我国人工智能法律问题的几点思考
点 击 蓝 字
欢 迎 关 注
人工智能
人工智能被认为是未来可能改变人类世界的重大科技变革，随着技术的发展和应用，其社会影响引起了全球范围内的广泛关注和思考，人工智能的法律问题也随之得到高度重视。人工智能的法律问题是双向的，既有法律对人工智能社会问题的规制，也有人工智能对现有法律制度的挑战以及对法律职业的影响。前者如无人驾驶汽车、自动化交易、自动化武器等带来的新型法律问题及其规制，机器生产的社会后果及治理，超级智能的风险及其应对，算法歧视、算法黑箱、算法规制等问题；后者如人工智能作品著作权问题，人工智能的法律主体性拟制问题，机器人法官和机器人律师等问题。
Isaac Levitan
远虑与近忧：对我国人工智能法律问题的几点思考
文 / 中国科学院大学公管学院法律与知识产权系副教授
中国科技法学会人工智能法专委会副主任兼秘书长 刘朝
目次
人工智能法律思考的几点基础
回归人工智能技术现实的法律思考
回归我国社会现实的法律思考
一、人工智能法律思考的几点基础
虽然全球立法进程缓慢，但当前对上述这些问题的思考和讨论却紧张而激烈。这些讨论有期待，也有忧虑；有乐观主义，也有悲观主义；有法律想象，也有现实的事故及诉讼。简言之，既有远虑也有近忧。例如对于全自动机器的法律责任，以当前最受关注的无人车为例：由于完全不需要驾驶员操作的无人驾驶车目前还没有出现，因此对法律最大的挑战——交通事故的主要责任者是汽车本身——目前也尚未出现。目前人们关心并探讨的一些问题，例如：如果发生事故，且被判定为无人驾驶汽车负主要责任时，汽车能否成为法律责任的主体？两辆无人驾驶汽车相撞[1]，保险损失理赔责任如何划分等等，尚未成为眼前需要面对的现实问题，属于远虑。而全球范围内无人驾驶技术和市场的激烈竞争态势、特斯拉两起无人驾驶致人死亡事故等则是近忧。
我们需要多维度多视角的关注和探讨，因为这是人类谋远虑、解近忧，寻求理性共识的必经历程。但是作为起点，本文对于人工智能法律问题的探讨基于以下三个基本认识：
1
先不做奇点到来的想象，回归现实问题；
2
人工智能兼具技术属性和社会属性；
3
人工智能的社会问题虽然具有全球性，但法律规制首先需要基于中国语境的本土阐释。
二、回归人工智能技术现实的法律思考
1、技术上的后发劣势是我国语境的一个基础问题
首先以无人驾驶为例，本研究团队分析全球无人驾驶知识产权等态势发现，全球范围内中国技术积累弱势明显，体现在除了论文数量和专利数量排名我国全球第二之外，在高质量专利和高影响力论文上，中国均低于世界有竞争力国家的平均水平。而且近期全球无人驾驶新创企业表现突出，尤其是从大公司出走的人员创业的企业，但是这些并无中国的新创企业。特别需要指出的是，中国申请人在海外的专利布局不到也远低于其他主要国家申请人。
再以人工智能医疗为例。第一，无论从学术产出数量、专利数量、学术影响力、专利价值（见图1）等方面，美国都占据优势，而且和无人驾驶等领域相比，AI医疗的优势更为突出，具有遥遥领先的地位。同时团队和企业的追踪分析显示，美国的生态系统是大型、创新而且多元化的（包括研究机构、大学以及私营企业），它的形成得益于硅谷的科技行业，具有难以复制的优势。
第二，和无人驾驶一样，除了论文数量和专利数量之外，在我们筛选出的高质量专利和高影响力论文上，中国均低于有竞争力国家的平均水平。
第三，主要国家技术布局重视中国市场，但中国不重视海外布局。
在各国均重视本国布局的前提下，除韩国以外，其他国家申请人在中国专利申请比例较大，但在日本申请量均较小（图2）。但中国申请人在美国申请专利的比例相比其他国家要低，特别需要指出的是，中国申请主体在中国专利申请量逐年增加的情况下，海外布局则不增反降（图3）。
我们认为未来新创企业可能是中国在某些点突破的机遇，也是中国寻求合作和引进高端人才的可能来源。
综上，人工智能的竞争点已经由技术扩大到生态圈，几大科技巨头基本完成技术生态圈筑底。国务院于2017年7月8日印发《新一代人工智能发展规划》（下文简称《规划》）对技术竞争给予了充分的重视，多项部署为企业、大学、研究机构等增强人工智能技术竞争能力、提升自主创新能力提供政策和策略指引。
2、在隐私和数据安全上，人工智能技术的负面效应是远虑，而互联网技术是近忧
从人类进入互联网时代起，隐私安全和网络安全问题就是防不胜防的突出问题。全球范围内对此投入了大量的人力财力。可以预测，这样的关注和投入仍会随着互联网技术的发展而逐渐增多，道魔之间仍会缠斗不休。人工智能技术的发展对这两类问题可能有两种效应：
第一，增强网络攻击力，加大对网络安全和隐私安全的威胁。
第二，增强防范能力，加大对网络安全和隐私安全威胁的防控力。
从这两方面的作用可以看出，在人工智能体尚未发展出自己的意识的现阶段，人工智能在网络安全和隐私安全上，还只是工具；人工智能在这两方面所起的作用还是量变而不是质变。简言之，在隐私和网络安全上，人工智能技术的负面效应是远虑，而互联网技术的一次次现实威胁是近忧。因此这类问题的人工智能法律规制，很可能经由互联网隐私和数据法律制度的变迁得以解决。
3、有些表面上的法律问题其本质是技术问题
目前全球关于无人驾驶的立法，总的态势是紧张而缓慢进行中。全球探讨激烈，但立法进程缓慢。无人驾驶法律责任认定的难点主要有：
第一，从法律上看，首先，法律的权威性决定了其天然具有滞后性；其次，无人驾驶事故中的举证责任和举证能力问题涉及产业、车主及驾驶着、监管等多方主体，并受制于技术手段，立法更需要谨慎；
第二，从技术上看，无人驾驶技术尚未发展到能够帮助明确划分法律责任的程度，例如：事故发生时，对于人，可能承担责任的主体众多，谁是责任承担者？在人和人之间如何划分责任？在人机之间如何划分责任？因此，个人认为，无人驾驶当前的法律缺失或者滞后，并不一定会阻碍技术的发展，而很可能是一种在技术尚不成熟状态下的审慎。
也就是说，虽然目前无人驾驶的监管责任与事故责任尚处于不完全确定的状态，但是这种不确定既有法律因素，也有技术因素，不是加快立法进程就可以解决的。
再比如人工智能机器人在用户恶意引导下发出歧视性言论，如果对当事人造成精神损害，那么如何进行责任划分和赔偿？这里最大的问题是：没有道德感机器能否成为责任承担者？在现有法律框架内，这并不是最大的障碍，以现有法律上的法人制度为例，法人也没有道德感，但法人依然可以承担法律责任。真正的难题在于三点：第一，人机之间的过错如何划分？第二，人人之间的过错如何划分？第三，机器的责任承担能力有限，当机器造成严重损害需要承担刑事责任时，刑事责任的一些惩罚措施对机器人起不到惩罚的作用，例如剥夺人身自由甚至生命等。
上述三个难题表面上是法律难题，但实际上最大的难点在于技术而不是法律。人机之间、人人之间的责任划分依赖于技术手段，机器人如果发展出自我意识，那么法律上的一些惩罚措施，例如道歉、限制“人身”自由、甚至剥夺机器人“生命”等，就可能对机器产生惩罚作用，这里关键还在于机器人有多大程度上和人接近。
简言之，个人认为，探讨人工智能法律问题的基础是分清远虑和近忧。而判定机器人某一可能的损害行为究竟是远虑还是近忧，首先是从技术上判断。人工智能已经历61年的发展历程，但基础理论和应用基础研究尚处于起步阶段。笔者调研发现，部分科学家认为，目前很难对此做出明确判断或预测，因为人工智能基础性的研究尚处于发展中，限制了技术上的预测。
三、回归我国社会现实的法律思考
回归到我国语境下的社会现实看，人工智能的近忧在于人工智能社会属性的风险和挑战，与我们当前社会问题相叠加的后果。
1、诚信原则和商业伦理道德问题
人工智能技术的应用层和商业场景是中国的机遇，但我国创业生态不好，突出体现在诚实信用原则和商业伦理道德上。
第一，创业生态的突出问题。总体看来，创业者应用发掘不明确、技术同质化、投资人跟风热炒等现象在人工智能几个领域普遍存在。
第二，新技术的商业模式的多数先行者弱势问题。新技术的商业模式是创新创业的关键，商业模式本身不是知识产权，不能得到垄断行的法律保护，主要靠商业模式的自我保护，这恰恰是我国企业的弱势。商业模式自身环节和要素所具有的专利、著作权、品牌、排他性的推销渠道协议、商业秘密等均可以成为保护商业模式的依据，这些都是先行者的优势。商业模式的自我保护对先行者优势的要求较高，越是具有先行者优势的商业模式，其自我保护能力越强，国外一些高技术企业在新商业模式的成功典范均得益于其强大的自我保护能力，这既是中国的中小企业所不可比拟和不能复制的。我国一些大的互联网企业在经营方式、生产方式和服务方式，在新商业模式上不断颠覆传统，引领创新，备受全球瞩目。但同时一些弱势的创新者指责这些大互联网公司依靠强势资源抄袭中小企业，甚至指责这是“踩着创业者尸体的做法”，还有人认为在这样的态势下中国互联网的中小企业没有未来。调研发现，有一些小创业者没有发出声音，只是心怀被大互联网公司抄袭新商业模式的恐惧之心在小心翼翼中创业。也就是说，在我国一个迫切需要重视的问题是：商业模式创新上，如果多数先行者处于弱势怎么办？
第三，在诚实信用原则和商业伦理道德的进化上，互联网依然是人工智能的基础，无论立法还是司法实践。从互联网时代起，中国在新技术上的落后，决定了我们的创新更要重于从需要、产品、结果开始，向上找技术、找原理，也就是周其仁所界定的“逆向创新”，而难以走谷歌、微软等的正向创新之路。就新商业模式的创新而言，从解决商业的实际难题出发，创新可以走不同的路径：第一条，走科技创新的路径，技术架构为主具有技术特征的商业模式，可能获得商业方法专利保护；第二条，走非基于技术架构的商业模式创新路径，不能申请专利，这类在中国企业的商业模式中占据多数，除了市场的逻辑和商业模式的自我保护外，对这些弱势先行者的“逆向创新”，法律是否保护，怎么做出趋利避害的法律设计和圆融妙通的制度安排，是当前法律和政策迫切需要解决的。
2、人工智能对人力资源和社会稳定的影响
人工智能对人力资源的影响是全球关注的热点，中国的特殊和紧迫在于：第一，既缺乏人工智能的技术人才，又缺乏高端产业人才，这些人才的培育和我国的教育问题叠加，例如我国人工智能和医疗教育的双重问题在人工智能医疗上就有集中体现：我国医学教育除了面临两大基本问题（一是医学人才总量不足，二是结构不合理，包括培养结构和资源分配的不合理）外，在全科医学、老年医学、康复医学等领域尤其紧缺人才，而这些领域正式人工智能在医疗落地的热点所在[1]。第二，人工智能对劳动力的影响与我国的人口问题叠加。第三，商业模式等中国式创新能缓解这些问题，商业模式创新已成为一种重要的产业创新形态，在理论研究、制度设计和实践操作上，应把商业模式创新与知识创新、技术创新给予同等重视。特别地，商业模式创新属于市场的逻辑，市场逻辑的作用应该先于法律法规政策的干预。
特别需要指出的是人工智能对于社会稳定的风险，人工智能可能加剧社会财富和资源迅速聚集于少数精英群体手中，这对于中国社会的稳定风险更大，对于这一点，当前的讨论和重视尚不够[2]。
3、社会理性共识的达成
社会理性共识的达成是人工智能社会问题治理，尤其是法律规制的基础。这一点也应该给予充分的重视。社会理性共识不仅有助于良法的产生和实施，还有助于“无需法律的秩序”的达成，更有助于避免出现老子所指出的“法令滋彰，盗贼多有”的法律泛滥和社会资源的浪费。
社会理性共识的达成，需要可靠的传播作用，也需要在人工智能热潮中冷静的思考，正如《大学》中所谓的“定而后能静，静而后能虑”。对于我们的忧虑，除了分清哪些是远虑，哪些是近忧之外，对于远虑，法律暂时不需规制，至于近忧，也不必全部由法律规制。
互联网时代初期曾有一句话“技术带来的问题由技术解决”，这句话虽然过于绝对，但在特殊的科技进程中，在特定的阶段，有一定的道理。尤其是对于人工智能，现在正处于未来不确定的状态，科技人员也不明确知道技术未来的走向会是什么样的，整个社会都不能确定未来人工智能会带给我们哪些惊喜、哪些惊诧、或者哪些惊惧，哪些惊怒。
在这样的态势下，法律思考首先冷静审视技术发展，看看技术带来的问题哪些可能由技术能解决。技术能解决的问题，对于人类社会的总体福祉最大，首先因为既节约了司法资源，又避免了法律规制对于技术和创新的可能带来的负面效应。还有，在真正需要规制的地方（既包括技术不能解决的近忧，也包括紧迫不能等待技术解决的近忧），我们可以选择的路径除了法律，还有很多途径：内生型治理、技术标准、开源社区协议等各种契约性市场规则，伦理道德规范等等，这些都属于埃里克森所说的“无需法律的秩序”，也能避免我们造就埃里克森担忧的“一个法律更多但秩序更少的世界 ”。
简而言之，我们当下需要的是通过解近忧来谋远虑，通过确定性的理念、原则和规则，来应对不确定性的技术未来。
参考文献
（请向下滑动）
一、人工智能法律思考的几点基础
[1]这个问题在特斯拉无人驾驶致人死亡事故发生之前，曾是美国法律界探讨无人驾驶法律问题的主要假想情景。
二、回归人工智能技术现实的法律思考
[1]数据来源：刘朝、半狄、李慧等《人工智能医疗领域前沿跟踪报告》，该报告为“人工智能领域前沿跟踪”课题的阶段性成果。
[2]数据来源同上。
[3]数据来源同上。
三、回归我国社会现实的法律思考
[1]参见刘朝、半狄、李慧等《人工智能医疗领域前沿跟踪报告》，该报告为“人工智能领域前沿跟踪”课题的阶段性成果。。
[2]国家《新一代人工智能发展规划》第一次出现了人工智能上升到了国家安全的问题。
感谢作者对本公众号的授权
仅作学习交流之用
Robert Reid
往 期 荐 读
异化
中的解放
欢迎关注