Vol. 353 新书速递 | 约翰·弗兰克·韦弗：《机器人是人吗？》

新书速递

《机器人是人吗？》

[美]约翰·弗兰克·韦弗：《机器人是人吗？》，刘海安、徐铁英、向秦译，上海人民出版社2018年版

人工智能时代降临，

法律将如何应对？

未来已来，且看机器人

如何颠覆我们对生活秩序的认知

机器人崛起，法律猝不及防

从无人驾驶汽车到智能医生，

他们正在向法律发起挑战……

本书为“独角兽法学精品 · 人工智能”丛书之一，丛书包括《机器人是人吗？》《谁为机器人的行为负责？》《人工智能与法律的对话》。购书链接请点击蓝字。

主编简介

彭诚信（1973-），男，山东省嘉祥县人，现为上海交通大学凯原法学院教授、博士生导师，民商法学科带头人，中国法学会民法学研究会常务理事，曾任宁波大学“甬江学者计划”特聘教授。曾在英国牛津大学法律系从事博士后研究，在伦敦大学经济学院、哈佛大学法学院或者加州大学伯克利分校做研究学者或访问学者，在日本北海道大学大学院法学研究科任教，在中国台湾地区“中央研究院”法律学研究所做访问教授。代表性作品有：“国家哲学社会科学文库”《现代权利理论研究》（法律出版社2017年版）、《从法律原则到个案规范——阿列克西原则理论的民法应用》（《法学研究》2014年第4期）、《善意取得合同效力的立法解析与逻辑证成》（《中国法学》2009年第4期）等。

著者简介

[美]约翰•弗兰克•维弗，美国律师，于波士顿学院人工智能法律领域专家。

译者简介

刘海安，中国民航大学法学院副教授，硕士生导师，法学博士，北京市航空法学会理事。

徐铁英，罗马第二大学法学博士，四川大学法学院副研究员，四川大学法学院罗马法与意大利法研究所所长。

向秦，上海交通大学在读法学博士研究生，美国加州大学伯克利分校联合培养博士生，曾在美国安永公司全球成员所上海瑛明律师事务所担任律师。

内容简介

人工智能概念在猝不及防的AlphaGo事件中家喻户晓，手机助手Siri已经能够进行语音交流，完成很多工作。无人驾驶汽车已经在全球各地实地测试。随着人工智能成为愈加无法逃避的现实，它将促使我们改变生存世界的假设，颠覆我们对生活秩序的认知。无人驾驶汽车、机器人保姆、机器人管家、人工智能外科手术医生……越来越多的人工智能机器人走进我们的生活，法律、政策与伦理如何规范？

霍金说：“由于生物学意义上的限制，人类无法赶上技术的发展速度。人类无法与机器竞争，并会被取代。全人工智能的发展可能导致人类的终结。”机器人的崛起，法律将如何应对？在《机器人是人吗？》一书中，美国律师约翰·弗兰克·韦弗探讨了这个引人入胜的新故事的法律层面，从无人驾驶汽车发生事故时的具体法律问题，到正在向法律本身提出挑战的基本问题。”

（向上滑动启阅）

推荐语

无论是在对人工智能甚嚣尘上的颂歌声中，还是在对人工智能言人人殊的争议声中，系统考察人工智能应用引发的法律问题的著作尚不多见。本书是一个专业人士对人工智能法律问题全面而深入的思考，让我们认识到，在人工智能研发和应用高歌猛进的同时，我们在许多法律乃至伦理问题上却还远远没有准备好。如此“盲人骑瞎马，夜半临深池”的局面，令人不寒而栗。本书有助于我们更理性地思考人工智能问题。

——江晓原

（上海交通大学讲席教授，科学史与科学文化研究院首任院长）

从法律的视角考察机器人，关键是主体性与归责方式。但人工智能的本质在于数据处理系统的输入与输出之间的关系，在于现实空间与虚拟空间的反馈机制。因此，机器人技术的法律属性和法律行为必须在互联互通的网络中界定。彭诚信教授编译的这三本书，分别从不同的角度解说了人工智能网络时代的法律新问题，是通往学科交叉研究前沿的好向导。              

                    ——季卫东

(上海法社会学研究会会长，上海交通大学资深教授)

机器人愈来愈像人，这已成为毋庸置疑的事实和发展趋势。未来“人”的概念或将不局限于“自然人”，还可能包括“智能机器人”。重塑对“行为”的认知、重构原有责任体系，是人工智能时代迈向回应型法的渴盼。

——刘宪权

(中国刑法学研究会副会长、上海市法学会刑法学研究会会长，华东政法大学刑事法学研究院院长、教授)

（媒体推荐语：）

机器人的崛起所带来的问题看起来像是出自科幻小说，但是这些问题正变得越来越真实。本书中，韦弗探讨了这个引人入胜的新故事的法律层面，从无人驾驶汽车发生事故时的具体法律问题，到正在向宪法本身提出挑战的基本问题。

——P. W. 辛格

（布鲁金斯学会21世纪安全和情报中心主任）

在这本及时出版的书中，韦弗律师根据艾萨克·阿西莫夫在1942年推出的《机器人三大法则》的行文，讨论了机器人和相关技术目前以及未来可能对人类的影响，以及这些领域内的法律方面问题。

——Choice

向所有关注技术趋势、经济和社会未来愿景的人推荐韦弗这本对人工智能进行全面而冷静思考的书。它还将吸引企业家、投资者，以及在国防、汽车领域、制造业、航运、医疗或家庭护理领域工作的读者。”

——get Abstract

目

录

目录

主编序

中文版序

第一部分 机器人会伤害人类吗？

第一章  人工智能已经到来

一、 机器人三大定律与人工智能的人格

二、 Siri——苹果公司拉开了人工智能革命的序幕

三、 Siri的声音——谁拥有该知识产权？

四、 谁应当享有Siri创作的媒体内容和类似著作权？

五、 Siri让我干的——Siri产生错误的责任

六、 Siri之后会发生什么

第二章  如何起诉机器人：人工智能与法律责任

一、 法律责任理论

二、 人工智能何时承担法律责任？

三、 人工智能如何承担法律责任？

四、 机器人医生的责任

五、 涉及机器人“医生”的案例

六、 保护事故受害者及人工智能开发者的法律修订

第二部分 机器人一定要服从人类的命令吗？

第三章  统一人工智能法典和人工智能管理规定

一、 规制新科技

二、 无人驾驶执照：自动汽车规范

三、 自动驾驶汽车是人工智能立法的未来？

第四章  机器看护人：当由机器人照料孩子(或者成人)

一、 谁拥有监护权？

二、 人工智能看护者、机器助手和机器保姆

三、 当机器人看护你的幼儿，照顾你的祖母时会发生

什么？

四、 关于机器人保姆和人工智能看护者的余思

第五章 机器人在我的后院

一、 地方法令——它们能做什么？

二、 工业机器人和人工智能工业工人

三、 人工智能产业机器人的引进(及其他形式的人工智能)

如何影响地方条例

四、 怎样修改条例以纳入人工智能

五、 行政委员会之前的人工智能

第六章 人工智能与第四修正案

一、 第四修正案简史

二、 警方对机器人和人工智能的运用

三、 第四修正案之下的人工智能无人侦察机

四、 人工智能与隐私

第七章 即将到来的联合国人工智能公约

一、 国际法，或法律上不可强制执行时会发生什么

二、 军用无人机

三、 国际法下的人工智能

四、 人工智能的国际标准

第三部分 机器人会保护自己吗？

第八章 一台机器人拥有什么？

一、 知识产权简史

二、进行创作的人工智能

三、人工智能创作的知识产权属于谁？

四、直面人工智能

五、人力完成的作品 vs.像拧开水龙头后涌出的作品

第九章 人工智能可以对我们有利吗？

一、 最坏的情况

二、 最好的情况

三、 公共政策的改变

四、 我们应该如何修订法律来应对人工智能的出现

五、 无需有大师的学徒，或领主的奴隶

索引

译后记

中文版序

当《机器人是人吗？》在2013年首次出版时，我在第一章中承认的一件事是，尽管本书讨论了当时已投入使用的程序和机器，但也谈到了人工智能(AI)“很快就会可用”。很快是多久？正如我当时所写到的，“在未来的10年到20年，人工智能将渗透到我们的生活中”。本书出版五年了，那么这个时间段已经变得更短。我们正处于人工智能的复杂性和广度的爆炸式增长之中。

在2013年，创作艺术、音乐和书面叙事的创造性人工智能并没有在商业上得到广泛应用。作曲家、大学教授大卫•科普(David Cope)创造了自动作曲程序，但由此产生的音乐几乎没有商业利润。现今，像Jukedeck这样的公司已经成功地向广告商、播客用户、在线视频制作商和许多其他买家销售了人工智能在数秒内完成的原创音乐。同样，2013年时，自动洞察公司(Automated Insights)和叙事科学公司(Narrative Science)向少数公司和媒体销售了人工智能自动编写的美联社(AP)风格报告。如今，自动洞察公司的程序正在撰写实际的美联社报告，因为美联社与该公司签订了合同，每年将发布数千份季度收益报告，且由此撰写的报告数量是美联社在依赖人工智能之前发布量的12倍。

在2013年，我研究了具有不同程度自主功能的机器人外科医生。然而，自那以来，医疗保健领域的人工智能在数据分析方面发展得更快，反映出过去五年里人工智能领域广泛发展趋势之一。凭着能够分析和借鉴大数据集的人工智能而产生的医学报告、诊断和图像，医生正在通过人工智能医疗项目来改善对核磁共振(MRI)和X光片的解释、微观和细胞学的解释、皮疹识别、色素病变评估潜在的黑色素瘤，视网膜血管检查预测糖尿病、视网膜病、心血管疾病的风险，以及其他用途。

在2013年，当研究人员开发出一款能够在城市街道上行驶的自动驾驶汽车时，人们认为这是一个重大突破。几年后，另一重大突破是一辆自动驾驶汽车从旧金山出发开了3400英里横越美国来到纽约。现在，许多汽车制造商销售的汽车都具有不同程度的自动驾驶功能，且每年都在提高汽车的自动驾驶能力，尽管其中一些功能在许多市场上还不“合法”。即使已经发生几起广为人知的事故，其中不止一起致命的车祸，也没有减少人们对自动驾驶汽车的需求。

我还可以举出其他方面的许多发展的例子，包括自主无人机的扩大、谷歌的阿尔法狗(AlphaGo)在围棋比赛中击败李世石、预测性人工智能指出了肯塔基赛马的获胜者和《时代》周刊的年度风云人物，此处仅举几例，作为人工智能越来越重要的证据。但是，我在《机器人是人吗？》中提出的基本挑战并没有改变。所有法律都有一个基本的假设：所有的决策都是由人类作出的。随着人工智能的应用变得越来越广泛，这种假设越来越不正确，并对法律的运作方式产生了影响。

当然，世界各国政府都在努力跟上科技发展的步伐，取得了不同程度的成功。自动驾驶汽车就是一个很好的例子。到2013年，美国有7个州(含哥伦比亚特区)试图通过立法解决自动驾驶汽车的问题，其中有3个州(含哥伦比亚特区)取得了成功。到2018年，35个州已经开始考虑自动驾驶汽车的立法，10个州已立法，另外2个州的州长发布行政命令来管理自动驾驶汽车的测试。然而，这些州的努力几乎没有一致的，某些州设立了委员会来研究如何监管自动驾驶汽车，另一些州则允许对自动驾驶汽车进行测试，还有一些州构建了法律框架以最终允许消费者在公共道路上使用自动驾驶汽车。

在欧洲，德国于2017年通过了一项法律，为自动驾驶汽车制定了法律框架，并允许自动驾驶汽车可以在道路上行驶。同年，英国政府宣布投资2亿英镑用于自动驾驶汽车的研究和测试。

在亚洲，新加坡于2017年修订了《道路交通法》(Road Traffic Act)，承认机动车不需要人类驾驶。中国政府在许多方面采取了最宽松的规则，基本上允许中国任何一个城市在公共道路上测试自动驾驶汽车。

国际上政府监管人工智能的努力较为分散，虽然解决了与人工智能相关的各种问题，但没有对人工智能技术进行全面管理的计划。例如，沙特阿拉伯没有人工智能立法，但在2017年授予机器人公民身份。2017年，美国发布了几份报告，阐述了政府在人工智能方面的政策立场，尽管美国参议院和众议院采取了一些行动，却没有通过针对人工智能的法律。

欧盟一般数据保护条例(GDPR)规定，要求任何人工智能在“自动化决策，包括分析”是否参与个人数据处理，并为个人提供“有意义的信息所涉及的逻辑”处理时，要通知个人，受到人工智能影响的个人有权获得关于人工智能决策过程的解释。虽然人工智能可以操纵个人数据是一个重大问题，但欧盟总体上并没有建立对于任何人工智能的立法框架。

中国已经成为人工智能研究和发展的新兴力量，也可能成为人工智能法律和公共政策的领导者。中国表示正积极计划发布人工智能技术标准和规则。另一个似乎准备积极寻求普遍的人工智能治理的国家是爱沙尼亚，因为其正在积极考虑赋予人工智能有限的法律人格。

《机器人是人吗？》的核心信息之一是人工智能的监管策略。如本书所述，通过修改法律，以巧妙的方式赋予人工智能有限的法律人格，我们可以确保人工智能的利益得到广泛的传播。尽管本书主要关注美国法律和公共政策，但这一经验是普遍的，应该适用于所有国家。

我很高兴《机器人是人吗？》一书被翻译成中文，这将更容易为中国人民所接受。大学毕业后，我曾在江苏省扬中市的江苏扬中高级中学教英语，在那里的教学经历让我对中国产生了浓厚的兴趣。随着过去七年里我对人工智能发展以及由此产生的法律意涵的研究，我看到中国人工智能行业的增长是显而易见的。我希望这本书能有助于中国建立一个全面的法律体系来管理人工智能，且成为世界上其他国家可以效仿的模版。

主编序

一

无论生物学意义上的自然人类(以下简称人类)是否做好准备，人工智能时代正逐步走来，而这恰恰是由人类自身所引起。

初级的人工智能或许能为人类带来便捷，在我国，或许还能带来规则意识，甚至法治理念的真正普及。这是因为，人工智能的本质就是算法，任何算法必然建立在对某项事物认识的共性与常识之上。也正是在此意义上，人工智能能为人类服务，能代替自然人为人类服务。   初级的人工智能，如果还没有深度学习能力，或者深度学习能力尚不充分，它就难以进行诸如自然人价值判断与情感判断的活动，比如包含爱的交流与体验，难以对疑难案件作出理性裁判，对案件的漏洞填补与价值补充等。在此意义上，人工智能产品还主要表现为人工智能物，仅在有限的意义上具有自然人的属性。但即便是初级的人工智能，在我国也具有非常重要的意义，主要表现为规则意识与诚信观念的建立。人工智能最核心的“大脑”就是算法，算法本身便是规则。初级人工智能对人类的服务就是规则服务；而人类要接受人工智能的服务，就必须接受算法设定的各种规则。人工智能，尤其是结合网络运用的人工智能，会促使与提升自然人的规则意识，因为无论自然人在线下是否遵守规则，也无论规则在线下如何难以推行与实现，只要自然人接受线上服务，就必须遵守线上规则；无论自然人在线下如何不守信，他在线上也必须诚实，否则他就进入不了虚拟世界，便也无从获得特定人工智能的服务。在初级的人工智能时代，人类仍是核心，是世界的主宰，毕竟自然人仍是规则的制定者，是人工智能的服务对象。

而到了高级人工智能时代，即，当人工智能能够进入深度学习与感情交流，可以进行团体合作与共同行动时，换句话说，当人工智能可以改变甚至完全脱离自然人为其设计好的初始算法而创制新的算法时，那时的人工智能物便实实在在地变成了人工智能人。人工智能人如何改变自然社会，甚至如何引导与影响整个自然社会走向，已非自然人所能完全掌控与想象，恐怕也为人工智能人本身所不知。尤其是，当人工智能人可以在虚拟世界制定规则(创制新的算法)，而这种规则又必然会影响到自然世界时，那时自然世界的主宰到底是人工智能人，还是自然人，或许现在的我们(人类)已经难以给出确定答案。那时的人类在自然世界或虚拟世界中处于何种主体地位，现在的我们也不得而知。当人工智能人有了情感交流能力并具有生物生成功能后，在自然人与自然人、人工智能人与人工智能人以及自然人与人工智能人之间的多元关系中，谁来制定规则，为谁制定规则，谁是自然世界或者虚拟世界的主宰或规则主体，以及各种形态主体之间具体的生活样态如何等问题，可能都远远超出了我们当下的想象，或许那时的社会状态本身就不可想象！

正是为了认真面对这些问题，警惕与体味这些问题，以便未来更好地深入研究或应对这些问题，上海人民出版社曹培雷副总编辑、法律与社会读物编辑中心苏贻鸣总监、秦堃编辑等及本人一起探讨决定编译人工智能丛书，帮助我国读者了解既有的人工智能研究，并以此为切入口对人工智能进行深度了解与学习。我们筛选并翻译了国外有关人工智能研究的较有影响力的三部经典著作，推介给中国读者。这三部著作便是意大利学者乌戈•帕加罗所著的《谁为机器人的行为负责？》、美国律师约翰•弗兰克•韦弗所著的《机器人是人吗？》以及美国学者瑞恩•卡洛、迈克尔•弗鲁姆金和加拿大学者伊恩•克尔编辑的文集《人工智能与法律的对话》。

二

《谁为机器人的行为负责？》一书，由张卉林、王黎黎和笔者共同翻译。该书通篇都在试图回答一个问题：“谁来承担责任(Who Pays)”。作者建构了一种分析法律责任模型。他在刑法、合同法和侵权法的框架下讨论了27种假设情况，例如刑法中的机器人士兵、合同法中的外科手术机器人以及侵权法中的人工智能雇员等，目的是分析在不同的情况下设计者、生产者、使用者和机器人之间应当如何分配责任。作者还讨论了机器人对现代法学体系中的若干重要内容带来的挑战，比如刑法中的正义战争理论、合同法中的代理资格以及侵权法中的责任承担。上述问题的讨论建立在作者对法律责任和义务的概念的分析基础上，讨论法律基础是否会受到机器人技术的影响。最后，作者讨论了“作为元技术的法律”，即如何通过法律实现对技术发展的控制。

《机器人是人吗？》一书由刘海安、徐铁英和向秦翻译。该书认为，人工智能可以达到如同与真人一样进行语音交流的程度，并自主学习知识和判断问题。作者讨论了人工智能的知识产权享有和责任承担问题。作者认为，面对人工智能承担法律责任，可以通过人工智能保险或储备基金支付赔偿费用。如何规范人工智能？作者以美国各州对自动驾驶汽车的相关立法为例，对未来人工智能统一立法作出合理预测：(1)当产品制造商、开发商和人类都没有过错时，不同体系的机构将会为涉及人工智能的事故受损者建立赔偿或补偿基金；(2)至少在初期，很多形式的人工智能产品的使用将被要求获得执照许可背书；(3)在初期，往往需要对人工智能进行人为监督，但是最终，只有那些主要用于改善人类表现的人工智能才需要人为监督；(4)尽管最初的立法将会经常把人类作为操作者(行为人)，即使这种标签不适用于人工智能的类型，但最终立法会在以确定操作者责任为目的时变得更加细分；(5)立法将始终区分用于测试目的的人工智能和向消费者提供的人工智能；(6)立法将始终要求这样一个机制，允许人类脱离人工智能但很容易重新控制人工智能；(7)立法将始终要求在自动化技术失败时，人工智能产品能向周围的人发出警告；(9)对采集个人信息的担忧将会迫使法律要求披露人工智能运作时所收集的信息。

《人工智能与法律的对话》由陈吉栋、董惠敏和杭颖颖翻译。本书共分讨论起点、责任、社会和道德意义、执法和机器人战争5个部分，共14篇论文。其中，大部分是首次在“We Robot”这一跨学科会议上发布的最新论文。这些论文探讨了机器人的日益复杂化以及它们在各个领域的广泛部署，重新思考了它所带来的各种哲学和公共政策问题、与现有法律制度不兼容之处，以及因此可能引发的政策和法律上的变化。整本书为我们生动地展现了一场内容广泛、启发深远的对话，如本书第二部分有关机器人行为责任的讲述：F.帕特里克•哈伯德教授《精密机器人所致人身损害的风险分配》一文对普通法应对技术变革的能力提供了一种乐观的评估：“普通法系统包含了内部机制，能够为应对机器人化的世界作出必要的相对较小的变化”；而柯蒂斯•E.A.卡诺法官在《运用传统侵权法理论“迎接”机器人智能》一文中则提出了截然相反的观点：传统的过失和严格责任理论不足以应对真正自主性机器人的挑战。

需要说明的一点是，我们从2017年9月确定翻译书目，10月组建翻译团队，到12月后陆续落实版权并着手翻译，翻译时间可谓十分紧张。丛书译者多为高校或者研究机构的青年科研教学人员，需要克服繁重的教学和科研压力；加之，所译著作内容涉及法律、计算机和伦理等多元且交叉的学科知识，远远超出了多数译者所在的法学学科领域，翻译不当甚至错误恐在所难免，在此我们衷心恳请并接受各位读者、专家批评指正。

三

2017年7月中华人民共和国国务院发布《新一代人工智能发展规划》，强调建立保障人工智能健康发展的法律法规，妥善应对人工智能可能带来的挑战，形成适应人工智能发展的制度安排。《规划》为此要求“开展与人工智能应用相关的民事与刑事责任确认、隐私和产权保护、信息安全利用等法律问题研究，建立追溯和问责制度，明确人工智能法律主体以及相关权利、义务和责任等”。但正如弗鲁姆金(Froomkin)指出的，也可能是本译丛三本书的作者们皆认可的：“(1)对于机器人和监管问题，现在还为时尚早；(2)技术问题远比律师想象的复杂，法律、伦理和哲学问题比工程师想象的更有争议(有时也更复杂)；(3)我们要彻底解决这些问题的唯一办法就是扩大和深化我们跨学科的努力。让世界为机器人做好准备的同时，使机器人也为世界做好准备，这必须是一个团队项目——否则它可能会变得很糟糕。”由此揭示出，对于人工智能的探讨与研究，即便是对于人工智能的规范性研究，并非法学一个学科所能胜任。人工智能本身就是一个具有综合性、复杂性、前沿性的知识、智识与科学，它需要几乎所有的理工与人文社会科学学科进行交叉性研究，也需要研究者、实体技术者与产业者等各个领域的人配合与对话。法律人在人工智能的研究、开发、规则制定等各个环节中是不可缺少的一环，但也仅仅是一个环节，他只有加入人工智能的整体研究与发展中去，才会发挥更大的价值。我们期待这套译丛的出版有助于人工智能在法学及其他领域展开深入讨论，为跨学科的对话甚至团队合作提供一定程度的助益。

无论未来人工智能时代的社会生活样态如何，无论人工智能时代的社会主体如何多元，多元的主体依然会形成他们自己的存在哲学，也许依然需要他们自己的情感系统。无论未来的人工智能时代多么不可预测，问题的关键还是在于人类的自我与社会认知。就像苹果公司首席执行官蒂姆•库克(Tim Cook)在麻省理工学院(MIT)2017届毕业典礼演讲中指出的，“我并不担心人工智能能够像人一样思考，我更关心的是人们像计算机一样思考，没有价值观，没有同情心，没有对结果的敬畏之心。这就是为什么我们需要你们这样的毕业生，来帮助我们控制技术”。是的，我们或许不知未来的人工智能是否会产生包含同情与敬畏的情感，但我们能够确信的是，即便在人工智能时代，我们最需要的依然是人类饱含同情与敬畏的“爱”！未来的人工智能时代无论是初级样态还是高级学习样态，能够让多元的主体存在并和谐相处的，能够把多元主体维系在一起的或许唯有“爱”。这个从古至今在自然世界难以找到确定含义的概念，在虚拟与现实共处的世界中更是难以获得其固定内涵，但我们唯一知道并可以确信的是，如果没有“爱”，那么未来的人工智能时代就真的进入了一个混沌而混乱的世界！

彭诚信

上海交通大学凯原法学院

2018年7月10日

法律思想｜中国政法大学法理学研究所

微信ID：lawthinkers

邮箱：[e-mail]

每周一、周四19:00为您推送