人工智能时代，你要提防哪些法律难题?——蔡雄山首席研究员携腾讯《人工智能》法大演讲

本文作者：腾讯研究院法律研究中心副主任 首席研究员 蔡雄山

　　上周我们发布了新书《人工智能》，是由我们腾讯研究院，腾讯人工智能实验室，腾讯开放平台还有中国信息通讯研究院，一起撰写的，由中国人民大学出版社出版。我觉得这本书应该是目前业界比较全面的介绍人工智能的一本书。我们这本书写作时间大概有一年，我们谈了人工智能的技术，谈了人工智能的产业，谈了人工智能的法律与伦理问题，以及人工智能的未来，我讲的一些内容书里会有详细介绍。

　　美国有一个作家写了一本书——《当我们谈论爱情的时候，我们在谈论什么》，借用这个句式，我想问：当我们在谈论人工智能的时候，我们在谈论什么?前两天在路上遇到一个好朋友，我说我们写了一本书《人工智能》，现在中国的人工智能发展得非常快，结果他问：你们的人工智能通过图灵测试了吗?按照这个理解，人工智能就像影片里的机器人，智力非常高。但是我觉得事实上可能我们很多时候把人工智能理解为超人的东西了。其实不是。通常来说讲人工智能分为几个阶段：第一阶段叫弱人工智能，可以处理一些简单的东西。这个阶段，在我们的生活当中无处不在，现在用的很多东西都是弱人工智能。例如，我刚才开车从中关村到政法大学，我用高德导航，我特别担心跑到昌平去，这个导航和语音就是人工智能，这个语音技术就叫语音识别技术，人工智能里还有图像识别的技术，比如大家都用支付宝，你把摄象头打开之后，通过图像识别锁定这个人就可以支付了，这个也是人工智能技术的应用，产业应用很多了。我们现在将的无人驾驶的汽车，我们无人飞行器等等，都是人工智能技术的应用。这是弱人工智能阶段。

　　下一个阶段叫强人工智能。大家觉得阿法狗很厉害，其实也是弱人工智能阶段，因为它只能处理单一任务。而强人工智能可能像人一样去思考去行动。我们在很长一段时间内都会处于弱人工智能阶段，什么时候把机器造得像人一样去行动、思考，从技术来讲有非常大的难度。

　　再下一个阶段就是超人工智能阶段。超人工智能什么时候能实现?有人说50年，也有人说100年，如果去跟工程师聊，他们会觉得你们文科生想多了，意思就是说技术上在很长时内实现不了。

　　虽然我们离强人工智能和超人工智能还比较遥远，但是人工智能是下一波产业的浪潮，应该说是一个不争的事实，这个可以从下面几个方面体现出来：

　　首先，主要的国家都发布了关于人工智能的战略。比如美国在去年年底的时候发布了《人工智能发展研究规划》，中国也在2017年根据美国发布了《新一代人工智能发展规划》。日本、欧盟等都在从国家层面抢占这个战略的制高点，在布局人工智能的战略发展。

　　从企业方面来说，现在仅仅讲互联网时代，已经过时了，甚至讲移动互联网时代，也有些过时了，现在的风口是人工智能。为什么呢?从今年开始你会发现包括谷歌、facebook等等，包括腾讯和百度这些大的国际互联网公司，都提出一个重要战略：从移动到到AI。

　　第三，技术确实取得了很多进步。比如我刚才说的语音识别、图像识别，深度学习等等这些人工智能基础性的技术在不断的突破，应用也在不断的扩展，比如人工智能应用到医疗，应用到教育，应用到各个垂直的领域越来越多。在交通领域无人驾驶的汽车离我们越来越近了，比如谷歌和特斯拉发明的无人驾驶汽车已经在路上行使了数十亿公里，也就是说他的技术越来越成熟。

　　所以人工智能确实应该说是下一波的产业浪潮，这个国际社会都在讨论，中国和美国都在这一波浪潮中都在积极布局，大的互联网企业纷纷想抢占这个战略的制高点，因为每一次产业的浪潮都有窗口期，错过了就再也追不回来。

　　那么人工智能这个时代他会带来哪些法律问题呢?这是我今天想重点讲的。

　　首先，我觉得是数据带来的法律问题。当我们说数据保护的时候，最开仅仅指个人数据的保护。但是逐渐你会发现数据的问题不仅仅是个人数据的问题。为什么数据那么重要呢?因为现在的人工智能基本上都是靠数据去喂养的，就是必须掌握大量的数据才通过软件分析得出结论。

　　前一段时间英国的《经济学人》有一篇文章，讲的非常有意思。大家知道超市里都有摄象头，每个顾客进去人的表情是不一样的，有的人很悲伤，可能是失恋了。有的人很忧郁，有的人很开心……这些东西有用吗?传统来讲没有用。可是人工智能时代这些表情数据也有用了。怎么用?摄象头被捉到你每一个表情之后，后台有软件进行分析，分析之后就知道每一个人的喜怒哀乐。研究证明当一个人心情不怎么好的时候，他购物欲望不太强，当心情很好的时候，消费能力比较强。这样当超市通过人工智能发现一个心情不好的顾客走进了超市，会真正派一个店员去辅导，帮助顾客把情绪激发起来，顾客买的就会更多。通过这样一个人工智能分析的软件干预之后，超市销售额增长了33%，这是实证的例子：你的喜怒哀乐表情都被商业利用了。

　　数据采集的时候，许多摄像头在工作。这对个人的隐私和数据保护提出了一个非常巨大的挑战，这是一个法律问题——数据保护的问题。但是我想讲的不仅仅是个人数据保护，更有数据的所有权问题，因为数据变得越来越有商业价值。

　　举一个简单例子，大家知道现在许多车都有数据采集系统，尤其奔驰宝马这样的车。你踩了多少脚油门，你是不是喜欢急踩刹车等等，这些驾驶习惯都被收集了，而且这些数据师是可以被分析并产生商业价值的。这些数据属于谁呢?奔驰或者宝马公司可以卖掉它收集的用户数据吗?比如奔驰公司可不可以把车主用车的数据卖给宝马?它有没有这样的权利?还是说这个数据属于车主?这就是一个非常有意思的问题——数据所有权的问题，

　　所以我想说的是：在传统的农业社会，最重要的生产资料是土地、房屋、牛、马，所以相应的最重要法律制度是产权制度、土地制度。在工业社会，无形的知识其产权越来越重要，知识产权法、商标法非常重要。

　　在人工智能时代，最重要的是什么?是数据，因为在今天这个时代，数据就相当于传统时代的石油和天然气，所以在这个时代最重要的制度可能是和数据相关的制度，这些制度还不太完善，现在在发展和形成当中。

　　第二个是人工智能时代的算法歧视。大家知道在人工智能算法决策是通过大数据分析来实现的。但是如果这个算法不客观的，不公正的，那么你得到的结果就不会是客观和公正的。举一个例子，我们现在通过社交和分析，你可以得到你信用的评分，那么怎么能够去保证这个评分是客观的、准确的?为什么会出现不客观的情况?大家知道在采纳数据的时候很少得到全样本的数据，可能数据本身就是不完全的。另外，所有的算法都是工程师造的，每个人都是有偏见的，如果他本身在制造算法的时候带有一些偏见，那么算法就会带有偏见。比如制定算法的人觉得黑人经济能力就比较差，还款能力比较低，他设计的贷款评估软件可能就会输出带有偏见性的结果，这个是一个非常值得研究的问题，可能在中国还没有引起太大的关注，但在美国已经引起了广泛的关注。

　　第三个问题，我觉得应该是人工智能所带来的监管和责任承担。比如，一辆无人驾驶的车如果发生事故谁来承担责任?如果按照传统的法律来讲是造车的制造商，因为车是你造的。但是在人工智能时代这个问题可能会复杂很多。比如说现在无人驾驶的汽车很多都有航道偏离提醒系统，当你偏离航道的时候方向盘会振动，为什么会知道你偏离航道呢?因为路上画了航道，设计的时候假定公路上必须有两条很直的航道线。如果要是有一天，这两条白线航道被涂抹了发生了事故谁来承担责任?还是制造商吗?他不知道会有人涂抹航道。所以这个问题会变得非常更加复杂。

　　第四个问题，人工智能所带来的知识产权问题。现在机器人写的诗和他做的绘画，他已经可以和人媲美了，有时候你很难分清楚哪一首诗是机器写的。这些作品，能不能享有知识产权?当符合独创性要求的时候，版权是机器人的，还是这个软件设计者的呢?还是养这个工程师的公司?不要觉得这个东西很遥远。微软的聊天机器人小冰出了一本诗集。如果署名微软，估计没有人买，谁愿意买微软的诗?大家想买的是小冰写的诗，那版权是不是就应该属于小冰了?这是知识产权的问题，非常值得研究。

　　最后一个问题我想讲一讲机器人带来的法律人格的问题。虽然很遥远，但如果机器人的智商和人的智商一样，能不能赋予机器人法律人格?我觉得这个问题非常革命性。什么意思?我们今天的法律，无论是民法、刑法，其实都是建立在人的意识自由基础之上的，你为什么要承担责任?因为你有自由意志，在自由意志基础上你产生了过失或者是过错。为什么一个精神病人不承担责任?因为他没有自由意志。如果我们赋予机器人法律人格，是否意味着我们承认机器人也有自由意志了呢?