上海交大史宇航 | 人工智能的“合”乎想象

文/上海交通大学 史宇航

文字整理／吴恩惠律师

谢谢！其实在我们一开始的题目叫做合法合规，合乎想象。

https://v.qq.com/txp/iframe/player.html?vid=i0527h4a86i&width=500&height=375&auto=0

我不知道刚才各位看了杜总的这个演示以后什么感觉，我可以分享一下我的”心路历程”，一开始看到这个机器人，这两人抬上来，没什么了不起，一个台阶都上不了，号称人工智能，这个他想取代我？我至少能上个台阶，蹦上来蹦下去的，后来听了一下，觉得还是蛮厉害的，说不定真的有一天可以取代我，到时我能够做的就是帮着这个机器人把他抬上来，然后再抬下去。我不知道这一天会不会来临，如果真的来临，真的是挺可悲的。

我们今天这个题目叫做合乎想象，我刚才也说了这个原来应该叫做合法合规，合乎想象。应该是自从去年阿尔法狗事情以后，强调法律和人工智能结合的文章，包括演讲、活动也都是越来越多。越来越多的人工智能的产品，让我感觉到法律不能够再去回避人工智能的问题了， 5月份出版的一本诗集，有意思不是诗的内容怎么样，而是这个诗的作者，它的作者是微软的机器人小冰。在这种情况下，著作权的归属，是归微软的职务作品呢？还是说我们把小冰视为著作权法意义上的可以获得著作权的主体，这是一个非常有意思问题。

对于法律人来说，各种各样的机器，各种各样的产品，融合程度也是越来越多，但其实对我们国家来说可能对于法律人工智能影响最大的就是最高人民法院的裁判文书公开，提供非常好的法律数据材料。

关于人工智能跟法律其实可以讨论的问题非常多。比如它的法律人格，能不能获得著作权。如果人工智能，出了交通事故，具有无人驾驶的功能车撞了人，谁来承担这个责任，非常值得讨论，如果有兴趣的话，我推荐是看今年5月的《法律科学》期刊，有这方面的专题讨论，吴汉东教授、王迁教授都对这个问题写了论文。另外，其实就是说人工智能对于法律行业的冲击与回应，怎么样影响我们的工作，这个其实也是一个非常有趣的问题，今天在上海有一个法律科技的活动就是关于这个主题。

我今天更愿意跟大家分享一下人工智能的合法合规的问题，如果可能的话还需要合乎我们的想象。为什么说我们要关注人工智能的合法合规？或者说为什么我们要关注人工智能？对于律师来说，人工智能可能或者说很快就会成为企业的一个标准配置，不管是什么企业，现在都可以自称互联网企业或数据企业。在这种情况下，律师了解或者需要了解客户的业务，了解人工智能分析的使用，比如我们服务于互联网客户，起码是要对互联网有一定的了解，另外就是诉讼需要。

诉讼需要并不是说这个大数据现在公开范围公开了，所以说我们需要去了解，实际上在法院系统里面，对于人工智能的应用，远远超过想象。前两天在海南开的一个会议，最高院表示，运用大数据人工智能辅助法官办案，实现量刑智能化。美国也是一样，美国首席大法官也认为人工智能的运用已经近在眼前了，会给司法部门带来巨大的压力。

在上海交通大学，有个研究团队的成果可以通过识别照片来识别是不是罪犯，这是法律与人工智能结合地方，对于法律人来说意味着什么呢？如果说我们的客户还被抓了，为什么被抓，因为他长得像个坏人被抓了，我们怎么辩护呢？我们不懂人工智能可以吗？如果你的客户，贩卖个人信息、出售个人信息被抓了，判刑3到5年，判几年呢，这个人工智能查一下这个人的个人信息，看着卖个人信息的人到底是什么样的人。感觉这个人的社会风险比较大，判个五年或者从重判个十年，那这种情况下我们要怎么辩护啊，我们可能就没法工作，说这个程序不合法？我们是不是也要说啊，你用的这个量刑的这个程序变成的人工智能，他可能有一些缺陷。

从技术角度，比如数据收集得不到完善，我们的当事人如何，所以法律人对人工智能的了解真是迫在眉睫。而且从另外一个角度来讲，人工智能产品是不是合法，是不是合规，也是非常重要的问题，尤其适用于司法裁判的机器人。

从机器人合规的角度来讲，这个应该算是一个鼻祖，非常著名的科幻作家阿西莫夫在他的科幻小说，机器人系列里推出了非常著名的“机器人三定律”。这是科幻小说对于人工智能合法合规基础的，但是我们现在有没有可能会让机器人做到这些呢，尤其像司法机构使用的机器人，他们目标就是伤害人类，比如判死刑，判有期甚至无期，完全是不符合三定律的。

对于一些人工智能产品的合规，关键在于以下方面：首先，我认为是数据来源的方法，因为人工智能，实际上它与大数据还有数据是分不开的，我们为什么会有智力，其实也是经过大量的训练积累了大量的数据以后，我们才会说有一个基本的判断的依据，对于人工智能来说也是这样的，刚才这个杜总也提到他们这个看多少万份裁判文书，这就是数据的来源。就“机器人三定律”来说，如果说缺少数据的话会，程序可能就没有办法识别什么是人类，什么是伤害，这种情况下可能就没有办法形成一个准确的判断。

另外是算法的透明，我们要知道它背后的思维模式是什么样的，人工智能认为我长得比较丑就是一个罪犯，如果这个不透明的话，处理存就在非常大的随意性。另外是比较强大的算力，这个可能更多的是成本相关的，目前来说还不会涉及太多的法律问题。

数据来源的合法，其实就是获取个人信息的合法，基本上来说“同意”是利用个人信息的万能钥匙，当然也是有一定的前提，比如不能超过必要的限制，对于个人信息来源的合法，今年年初有一个非常重要的案例，就是新浪微博诉脉脉案，也可以作为参考。另外获得用户信息有效方法就是用户协议，需要用户协议里面有相关的内容，但通常是我们点击下一步下一步下一步然后同意了，缺少同意用户协议的“意思表示”，导致整个用户协议的效力存在很大的问题。

算法透明，这一点我是非常悲观的，因为即使人工智能开源了，也不知道为什么做这个决策，尤其是用了深度学习的这个技术后，我们即使公开源代码，我们所面临也可能就是一个黑箱。

这张图非常有名，来自于劳伦斯·莱斯格的书《代码》，研究我们怎么样去归置代码？人工智能的基础其实就是在原来对于代码的规制，它的合法合规离不开法律、市场、构架、准则这几方面。

对于法律人来说，法律当然没有问题，市场也很难轮到我们来拍板，准则也就是道德，可能是比较缺乏的就是对构架方面的理解，尤其是从技术角度来考虑可能比较困难，但我们要做网络法的业务，解决人工智能有关的法律问题，不懂代码的话我觉得是非常难以适应这个环境的。如果大家上中学，去学物理化学，要做实验课，为什么？通过实验可以让人家更好地了解我们这个现实社会？

现实生活中的物理规则、化学反应是怎么样的。而学习编程，是我们了解虚拟空间，了解网络空间的一个捷径。不是说我们让大家学习代码的编程成为软件工程师，取代“码农”的工作，更多的是让我们去更好了解网络。乔布斯认为：学习编程就是学习如何思考。如果说想要处理好网络法，处理好网络法的有关法律问题，处理好人工智能的有关问题。我觉得学习编程应该是一个非常好的一条捷径，虽然未必会立竿见影。

另外，只是学习编程并不足够，还需要学习设计，为什么？比如用户协议，我们早上听小米讲它们的用户协议如何如何，但是用户协议并不是只有协议条款本身，更重要的是对我们点击同意的过程。律师或者法务如何让这个点击同意更具有法律效力，又不至于繁琐复杂，把用户吓跑，是需要法律人与软件工程师及设计人员共同沟通解决的，所以说法律是需要全面素质的一个职业。

谢谢各位，我的分享结束了，观点不一定对，希望有更多的机会与大家交流。

---------------------

垦丁网络法携手Acelaw法培学院，

将在杭州举办全国第二届网络法实务研修班！

加本文末“小董先生”微信，并发送关键词“网络法实务班预报名”预报名吧

---------------------

关于分享课件PPT：

网络法实务大会结束后，大量群友请求分享嘉宾PPT，因此，想要获得PPT的朋友，可在网络法实务圈（cyberlaw2017）后台发送关键词「史宇航ppt」即可获得课件！同时，秉承分享精神是对嘉宾无私奉献的最好尊重，我们希望您将本文转发朋友圈或群，让更多人获得网络法实务新知！大家也可以加文末微信号入「网络法交流」社群！

网络法实务圈将陆续发布20位嘉宾演讲实录，敬请关注！

往期回顾：