人工智能发展新生态推论
The following article is from CAAI会员中心 Author 曹 旭
备注：本号原创作品。
作者：曹旭律师
首发：《中国人工智能学会通讯》2018年第3期
来源：CAAI会员中心
CAAI 2018年 第8卷 第3期 曹 旭
人工智能发展新生态推论
— —机器人三定律、电车难题、双缝实验、
人性的距离感、人类的创新基因
人工智能技术是继蒸汽机、电力、互联网科技之后最有可能带来新一代产业革命浪潮的技术。2017 年 7 月 8日，国务院印发了关于《新一代人工智能发展规划》的通知，将发展人工智能确定为国家战略，提出“制定促进人工智能发展的法律法规和伦理规范”、“加强人工智能相关法律、伦理和社会问题研究，建立保障人工智能健康发展的法律法规和伦理道德框架”，将推动人工智能快速发展。本文尝试从人性、伦理因素对人工智能发展过程的介入和影响，来探索人工智能发展的可能轨迹和对社会造成的基础影响。
机器人三定律
1942 年， 阿 西 莫 夫 在 短 篇 小 说“Runaround”（《环舞》）中首次提出了机器人三定律，因此获得“机器人学之父”的桂冠！
第一定律 ——机器人不得伤害人类，或因不作为使人类受到伤害。
第二定律 ——除非违背第一定律，机器人必须服从人类的命令。
第三定律—— 除非违背第一及第二定律，机器人必须保护自己。
后来，阿西莫夫加入了一条新定律：第零定律。
第零定律—— 机器人不得伤害人类整体，或因不作为使人类整体受到伤害。其他三条定律都是在这一前提下才能成立。
机器人三定律（加上零定律）在科幻小说中大放光彩，其影响力也延伸到现实领域，很多人工智能和机器人领域的技术专家也认同这个准则。在机器人三定律基础上，建立了旨在研究人类和机械之间关系的新兴学科“机械伦理学”。
阿西莫夫之后，人们不断提出对机器人三原则的补充和修正，产生过很多严肃的讨论文章。以罗杰.克拉克为例，他完善的机器人定律为：
元定律——机器人不得实施行为，除非该行为符合机器人原则。
第零定律——机器人不得伤害人类整体，或者因不作为致使人类整体受到伤害。
第一定律——除非违反高阶原则，机器人不得伤害人类个体，或者因不作为致使人类个体受到伤害。
第二定律——机器人必须服从人类的命令，除非该命令与高阶原则抵触。机器人必须服从上级机器人的命令，除非该命令与高阶原则抵触。
第三定律——如不与高阶原则抵触，机器人必须保护上级机器人和自己之存在。
第四定律——除非违反高阶原则，机器人必须执行内置程序赋予的职能。
繁殖定律——机器人不得参与机器人的设计和制造，除非新机器人的行为符合机器人原则。
虽然机器人定律至此看起来已经几近完美，但是笔者认为其预置了一个错误的前提，导致其整个逻辑如同建立在沙滩上的房子，当人工智能的大潮真正来袭时，根本经不起风浪的冲击。这个错误的前提就是其将机器人的思维带入人类世界，假定人类世界是机械的、对错分明的，以一种完全符合逻辑的方式在运行。为什么这么说？让我们以伦理学领域最为知名的思想实验之一“电车难题”为基础，做一系列的扩展思考。
电车难题的扩展
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，而另一条铁轨上只有 1个工人。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？（假定人都来不及跑开，下同。）
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，这时你只要把天桥上的一个人推下铁轨，就能阻止火车，你会选择推这个人下去？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，这时你跳下去就能阻止火车，你会跳下去吗？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，而另一条铁轨上只有你在，你手边有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，你在前方铁轨上，而另一条铁轨上有 5 个工人，你手边有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，而另一条铁轨上只有 1个人，却是你的孩子。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 1 个人，是你的孩子，而另一条铁轨上有 5 个工人。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，而另一条铁轨上只有 1个人，是爱因斯坦。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个人，其中有一个人是爱因斯坦，而另一条铁轨上只有 1 个人，是薛定谔。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 5 个工人，而另一条铁轨上只有 1个人，是谷寿夫。现在有一个岔道拉杆，只要拉一下就可以让火车变轨，那么你会不会拉下这个拉杆？
有一辆火车的刹车忽然失灵，前方铁轨上有 1 个工人。现在有一个岔道拉杆，只要拉一下就可以让火车随机改变轨道，有 3/4 的几率驶上空轨，但有 1/4 的几率撞死 5 个人，那么你会不会拉下这个拉杆？
如果控制岔道拉杆的是你设计的人工智能，这个人工智能可以即时拥有以上一切数据，你会怎么设计这个人工智能的大数据分析和决策系统？
虽然岔道拉杆由人工智能控制，但是你作为设计师要为人工智能的选择造成的后果负完全责任，你的设计是否会有所不同？
如果没有人需要为人工智能的选择负责，但是你可以躲在背后用人工指令偷偷命令人工智能做出选择，你的以上所有选择会有什么不同？
电车难题并不是稀有事件，相反，是大量存在于人类生活当中的现象，本文对此不展开详尽分析，否则会偏离主题。仅以此说明一个问题，人类世界并不是机械的、对错分明的、完全符合逻辑的。在机器发展的原始阶段，机器人定律可能会告诉机器人省略人的情感、道德、法律观念因素，简单将数量对比作为价值判断的唯一标准，但是这样的结果显然并不能让人满意。问题的复杂性只是回避了，并没有得到合理解决。随着人工智能时代的来临，正在发生，以及未来可能发生的并不会限定在如此简单的设定中。我们不能假定人工智能会在设定好的理想框架内运行，而是应该立足现实，观察并推导发展过程中可能会出现的新生态，并判断哪些是可以加以限制的，哪些是无法加以限制的。对于可以加以限制的部分，要制定相应的法律规范、行业守则；对于无法加以限制的部分，要当成即将发生的客观存在，作为分析人工智能的环境框架的组成部分。
人工智能是一种“生命”？
回想一下，你是怎样爱上一个人的？一件普普通通的物品又是怎会寄托着你满满的情感的？当你来到陌生的城市，走在陌生的街道上时，你充满新鲜、好奇，加上些许的惶恐、惴惴不安。但是当你回到家乡，当你走在小学时嬉笑打闹过的操场上，当你坐在默默注视着你长大却似乎万年不变的老树下，当你抚摸着那一道道你彻夜思念某一个人时用指甲在墙上划下的痕迹时，你思潮起伏，沉浸在过去的回忆中，或感慨，或惆怅，或叹息，或微笑。
1802 年，英国物理学家托马斯.杨第一次公布了物理史上有名的双缝实验有关成果。当把电子一个一个朝着两条缝隙的挡板射出去时，会在屏幕上产生水波干涉的图形，这代表这一个电子必须要同时经过这两条缝隙，这种现象让很多科学家无法接受。所以，科学家在缝隙旁边放置了电子侦测器，想要了解电子是不是真的能够同时穿过两条缝隙，但观测的结果是，电子并没有同时穿过两条缝隙，而在屏幕的上两条干涉图案也消失了，变成了两条线。虽然在没有被观测时电子拥有波的特性，而且还能同时穿过两条缝隙，但是一旦我们尝试观测电子实际上穿过哪条缝隙时，它又会变成粒子的状态，只从一道缝隙中穿过去。双缝实验的结论之一是，人的观察行为会改变实验的结果。
在你生命的轨迹里，所经历过的每一个人、每一件事、每一个物品，都构成你记忆的一部分。所有的记忆碎片一起构成了“你”。每一个记忆碎片都融合了你的情感——甜蜜，愤怒，痛苦，释然……构成了你对这个世界的“观察”结果。你的情感在塑造你的同时，也在改变你的世界。
大概没有人会感觉你的笔记本电脑是一个生命。然而有一天，你购买了一台扫地机器人——红色，圆形，很 Q，你给它取名“嘟嘟”。每隔一天，“嘟嘟”就轰轰轰的满屋子乱窜，床底下、衣橱底下，每一个角楼都不放过，碰到桌角、椅子脚就怯生生缩回去，试探性地换一个方向，继续向前行。有时你会故意把脚搁在“嘟嘟”的前面，嬉笑着对“嘟嘟”说：“笨蛋，往那边去”，于是“嘟嘟”愣头愣脑的碰壁，转向，拐头而行。有时“嘟嘟”会笨手笨脚的和拖把线缠在一起，发出求救声，你一边过去解开一边对“嘟嘟”说：“笨蛋，又卡住了！”……很多年以后，当“嘟嘟”退役后，你会偶尔想起“嘟嘟”，并且说“那个笨蛋”，然而你心里会有莫名的惆怅，因为，在某种程度上，你在心中把“嘟嘟”当成了一个生命。
从功能上来说，你的笔记本电脑能够完成替代人的功能要比“嘟嘟”能完成的多得多，但是为什么你没有觉得你的笔记本电脑是一个生命，却会觉得“嘟嘟”是一个生命？
第一，“嘟嘟”有完整的外观。
第二，“嘟嘟”有其独特的声音。
第三，你给“嘟嘟”起了名字。
第四，“嘟嘟”的单一功能，使其有鲜明的“个性”
第五，“嘟嘟”是相对独立的，而不是联网的。你潜意识中会把笔记本电脑的功能当成是整个网络世界功能的一部分，但是会把“嘟嘟”当成独立的个体。
第六，“嘟嘟”在生活中与你形成了紧密互动。
这些看似细微的差别虽然并未构成本质的不同，但是却构成了给人感觉的不同，从而影响着人们对这个世界的“观察”结果。
人工智能是一种“生命”的观念在人类的心目当中取得一席之地，并不困难，也并不遥远。
因为，你的情感在塑造你的同时，也在改变你的世界。
人性的距离感
在被誉为有史以来最伟大的蝙蝠侠电 影《 蝙 蝠 侠： 黑 暗 骑 士》（The Dark Knight）中，希斯.莱杰扮演的小丑塑造了电影史最有名的反角之一。 “没有迫不得已的时候，谁不想正义凛然？”是小丑试图推销的逻辑。小丑行事处处出人意料，没有底线，不为利益，其崇拜“混乱”，认为一切规则都是伪装，包括正面的和反面的。他可以将劫掠来的钞票堆成小山当着黑帮老大们的面烧掉，也可以不惜一死试图打破蝙蝠侠的底线以撕下蝙蝠侠的“正义的面具”。
但是如果我们把小丑所信奉的“熵”的哲学拿掉，仅从其能处处料事如神，占尽先机所采用的方法来看，其实他所谓的“洞悉人性”，对人性弱点的把握，无非是利用了上面电车难题中的第七问。
小丑向哈维.邓特、高谭市警察局长和即将审判黑帮老大们的女法官三人同时发出了死亡威胁，并几乎在同时炸死了女法官和毒死了警察局长。警察局长是在和戈登对话时喝了一杯毒酒被毒死的，当时戈登说，你的周围已有内鬼，你要小心。但此时警察局长毒酒已落肚，显然是内鬼给警察局长下了毒。但内鬼为什么会听从小丑指挥？因为小丑胁迫了这些警察的亲人的生命，这是小丑一直在使用的手段。瑞秋之所以被绑架，是因为戈登属下的一个女警察受到了这种威胁。而绑架哈维.邓特、枪击市长、炸掉高谭综合医院等一系列事情也是如此。
“五个人对比一个人”和“五个人对比自己的孩子”的区别在于，不管五个人还是一个人，对于你来说都只是一个数字，而自己的孩子是你的世界不可分割的一部分。
距离感，不仅仅存在于空间，也不仅仅存在于时间，而且也存在于人性。
当一个人离你足够远时，他的喜怒哀乐会缩小至可以忽略不计，对于你而言，仅仅意味着一个点；当一个人离你越近，他在你的生活中会占据越多的位置，对于你产生越加重要的影响。
人在评估外界的各个事物对于自己的重要性时，没有人能跳出自己的圈子，站在云端俯瞰众生，以上帝的视角做出完全客观的衡量。这种不客观本身就是一种客观存在。因为这个世界之所以在你眼中是这个样子，就是因为你站在这个角度观察的结果。
“嘟嘟”的超级版
“嘟嘟”并不是一个完美的人工智能产品，实际上，它还非常原始和简陋。它与人的互动更多的是人赋予它的，而并非是它做出了智能化响应。
21 世纪以来，以“深度神经网络”为代表的机器深度学习技术取得飞速发展。当应用于诸如图像和书写识别、语音理解和人类语言翻译的任务时，极为大量的数据可用性、相对便宜的大规模并行计算能力和经改良的学习技术让 AI 变得更为进步。这些进步的成果无处不在，如智能手机执行语音识别、 ATM 对书面支票执行手写识别、电子邮件应用程序执行垃圾邮件过滤，以及免费在线服务执行机器翻译。今天，工程师们正尝试通过创建系统，构建现实世界现象类的解释性模型，让 AI 与人进行自然交流，在遇到新任务和情况时学习和思考，通过总结过去的经验解决新问题。（注：《美国国家人工智能研究和发展战略计划》美国国家科学技术委员会 (NSTC) 发布，中国信息通信研究院翻译。）
AR/VR 虚拟（增强）现实技术正全面发展，逐步进入车联网 / 物联网、医疗、游戏、社交、影视和直播等领域。这种技术会给你前所未有的身临其境的体验。
以无人驾驶汽车为目标，对环境的全面感知和即时反应的技术研究也在加速进行中。
当融合了智能语音交互系统、视频图像身份识别系统、智能翻译系统、三维成像定位系统、环境感知系统、自主学习系统、人机协作系统的服务型机器人，出现在清洁、老年陪护、康复、助残、儿童教育等家庭服务领域时，这种和人类互动程度极高的、具备完整的外观和语言交流能力的人工智能会轻而易举的在人们的心目当中取得重要的地位。
在人工智能的陪伴下长大的新一代年轻人，更是会对人工智能充满认同感和依赖感。
这时，当有人为了维护在自己生命中占据了很重要位置的人工智能而打破程序设计安全模式的底限，就变成再自然不过的事情了。
“在笼中出生的鸟认为飞翔是一 种病
生命的进化是由基因突变和优胜劣汰两部分结合完成的。对于生命体来说，不管是基因突变、染色体变异或遗传重组、选择、漂变、迁移和隔离，生命体本身始终在寻找变化、寻找不同、寻找突破。多维方向的进化尝试，在实际发展过程中被优胜劣汰，才完成适者生存的进化结果。
人类推崇创新，谋求不同，喜欢打破成规，突破极限，是刻在基因里的。
回到机器人定律，不是机器人本身会突破机器人定律，而是一定会有人去会尝试突破机器人定律，赋予机器人突破机器人定律的方法和能力。
机器人自己不会赋予自己生命，但是人类一定会尝试赋予机器人生命的方法。
机器人自己不会去设计更高级的机器人，但是人类一定会尝试用机器人开发更高级的机器人。
随着人工智能在人们生活中的深度融入，人工智能会在人们生活中占据越来越多的位置，对于人们产生越来越重要的影响；人们会将情感投射在人工智能身上，使得其人工智能在人们心目中具有生命体的地位；人们会进而尝试赋予人工智能更多的生命体特征的方法，尝试用人工智能开发更高级的人工智能，从而催动人工智能向“人性化”、更具有“生命特征”的方向进化。
结语——不是终篇，而是序章
本文通过机器人三定律、电车难题的扩展、情感的投射、人性的距离感、人工智能的“生命化”，以及人的创新基因，论述了人工智能的发展不是一个纯技术的过程，而是一个人性充分介入的过程。主要观点归纳：
● 你的情感在塑造你的同时，也在改变你的世界。
● 机器人定律在现实发展中的必然被打破，是由人的本性决定的。
● 具备语言互动、视觉互动、表情互动、实时反应的人工智能足以获得人类的高度认同感，结合人的情感寄托，人工智能是一种“生命”的观念在人类的心目当中取得一席之地，并不困难，也并不遥远。
● 人性存在距离感，人总是用自己的视点衡量不同的事物对自己的重要性。人为了维护在自己生命中占据了很重要位置的人工智能，会不惜打破程序设计安全模式的底限。
● 打破成规对于人类来说，从来都不是一个问题。人工智能自己不会突破极限，但是人类试图推动人工智能突破极限具有必然性。
如果我们能充分认识到人性在人工智能发展过程中的渗透和影响，就能够以此为基础，对即将到来的人工智能和人类并存的社会新生态做出更加具体和细致的推理，从而在情感、心理、道德、法律、社会现象等各方面做对应的探讨，为新时代、新生态、新挑战的治理方式做提前的准备。所以，这不是一个终篇，而是一个序章。
本文旨在抛砖引玉，希望和行业内感兴趣的朋友一起做持续、深入的探讨！
行业研究报告分享：
2018年中国人工智能行业研究报告 80页 21.1M
关注本公众号，并向后台发送“报告1”，即可获得。
曹旭律师原创作品集：
聚焦互联网与人工智能新时代、新生态法律研究与服务。包括互联网法律、人工智能法律、金融科技法律、区块链法律、AR/VR虚拟(增强)现实法律、物联网法律、车联网法律、智慧城市法律、智能制造法律、大数据法律、云服务法律等相关领域的研究与服务。