Uber自动驾驶“杀人”，我们可以判算法死刑吗？
更多干货内容请关注微信公众号“AI 前线”，（ID：ai-front）
据今日凌晨外媒报道，上周日（18 日）晚上 10 点，美国亚利桑那州 Tempe（坦佩市）一名女子被优步自动驾驶汽车撞伤，之后不幸身亡。路透社报道称，这是全球首例自动驾驶车辆致人死亡的事件，或对该项新技术的引入形成冲击。一名优步发言人称，优步将暂停其在美国和加拿大的自动驾驶项目。
Tempe 警察部门报告称，事发时，尽管有一名司机坐在方向盘后面，但是，这辆车当时正处于自动控制模式，当时行驶车速为每小时 38 英里，而该地区限速为每小时 35 英里，而且没有尝试刹车。该车当时正朝北行驶，而该女子正在从距人行横道 100 码（约 91 米）的地方从西往东走。另据福克斯新闻网报道，优步当地时间 19 日在推特账号声明称，将全力配合当地警方进行调查。
据《财富》北京时间 3 月 20 日报道，亚利桑那州坦佩警察局局长西尔维亚·莫伊尔（Sylvia Moir）表示，初步调查显示，在致一名行人死亡的交通事故中，Uber 可能不存在过错。他表示，Uber 自动驾驶汽车配备的摄像头拍摄的视频显示这次交通 事故过错在受害者本人——今年 49 岁的伊莱恩·赫茨伯格（Elaine Herzberg），而非 Uber。“根据受害人横穿马路的方式，无论是有人还是自动驾驶模式，要避免这起交通事故是极其困难的。”
事故的具体原因还在调查之中，现在下定论是 Uber 还是受害者的过错还为时过早。
这次事故很容易就让人联想到 2016 年特斯拉的两起自动驾驶致死事故，让其再度陷于自动驾驶是否安全的漩涡之中。
是的，这次 Uber 自动驾驶致死案，并不是如多家媒体标题所谓的“第一起自动驾驶致死案”，连带这次，自动驾驶车辆已经至少出过 3 次致人死亡的事故，而且都是在开放路段上发生的。只不过，之前两次事故死亡的是驾驶员，这次是导致行人死亡的第一起事故。
据《纽约时报》报道，2016 年 1 月 20 日，在中国邯郸一高速路段，一辆驾驶特斯拉 S 的司机在事故中丧生，中央电视台对此事进行了报道。车中的行车记录仪显示，该车以左车道以公路行驶速度行驶时撞上一辆道路清扫车，当时特斯拉处于自动驾驶状态。
“当特斯拉靠近清扫车时并没有制动以避免撞车。”一名警官在 CCTV 报道中表示。
对此，一名发言人称，因为事故车辆损毁严重，无法向服务器传送数据，因此无法判断当时车辆是否处于自动驾驶状态，特斯拉在一封邮件声明中回应没有证据表明事故发生时该车处于自动驾驶状态，并拒绝告知获悉该公司产品在中国发生车祸事故的时间，以及是否向美国安全部门报备此事件。
特斯拉称，自动驾驶不能完全取代人类驾驶，自动驾驶模式激活时会向司机发出语音和文字信息以警醒注意状况发生。
一开始，交警判定特斯拉车主负主要责任，但受害人父亲向法院提起上诉，并向法院索赔 1 万元，称目的不是获得赔偿，而是对社会起到一定警醒作用，即特斯拉自动驾驶不是完全安全的，不要轻易尝试。
时隔一年后，2018 年 2 月 27 日，据央视新闻报道，这一事件有了进展：特斯拉在大量证据面前，终于被迫承认车辆在案发时处于自动驾驶状态。
自动驾驶反对者认为，自动驾驶会诱使司机放松警惕，反应不及重新控制车辆。
据报道，特斯拉早在事故发生数周之后即获悉此事，但直到 6 月末美国国家公路交通安全管理局宣布介入调查才对外界公布消息。
在中国发生的事故让一个问题发酵：自动驾驶车辆发生事故多久后应该向外界公开消息，以及应公开哪些信息？
最后，法院判决中提到：“公众需要了解自动驾驶技术的缺陷，”律师也说道希望特斯拉在制造产品时应该更加谨慎，不要过分地把自动驾驶作为吸引年轻人的卖点。
事故发生后不久，2016 年 5 月，特斯拉在美国佛罗里达又发生一起车祸事故。在此事故中，自动驾驶仪的雷达和摄像头无法识别出明亮天空背景下的白色货车，也没有迹象表明司机或自动驾驶仪在与一辆牵引式挂车相撞前采取制动措施。
对于这起事故，经过长达半年的调查之后，美国国家公路交通安全局（National Highway Traffic Safety Adminstration，简称 NHTSA）确认，特斯拉的自动驾驶系统 Autopilot 并无功能缺陷，也无需安全召回。
一份 13 页的报告显示：
1）事发时，特斯拉的自动驾驶系统没有出现故障；
2）特斯拉配备的自动刹车（ABE）和自动驾驶系统都有限制条件，事发时的状况本来就超出了系统设计的适用范围；
3）自动驾驶系统仍然需要人类驾驶员全神贯注；
4）自动驾驶系统显著提高了安全性。引入自动驾驶后，特斯拉车祸发生率已经降低 40%。
不久前，微博上一段定速巡航奔驰无法解除，在高速公路上上演生死时速的视频火了，场面堪比好莱坞大片，在全国范围内引起了关注。
而这样的事情已经不是第一次发生了，早在 2012 年 11 月，浙江一车主驾车行至杭浦高速，突然发现车辆的定速巡航无法解除，也上演了一场生死时速。
时隔数年后，2018 年 3 月 14 日晚，这一幕又发生了。河南焦作车主薛先生驾驶奔驰 200L 轿车开启定速巡航，后发现车辆失控，只能以 120 公里 / 时的速度继续飞驰，生死未卜。庆幸的是，在交警和奔驰售后方面操作下，奔驰车在失控近一小时、约一百公里后，终于安全停下。
针对此次事件，有媒体表示是奔驰对事故车辆进行后台操作才让车辆靠停，但随后的官方声明表明奔驰目前还不具备此能力，车主也在事后称三次打开车门车速才下降。
然而，随着事件逐渐发酵，各种质疑声也出现，有人认为整件事是车主自导自演的闹剧，包括“作家里最会开车的、开车中最会写作的”韩寒。在微博长文中，韩寒发表了对这件事的几点质疑，建议警方仔细检测车辆，如果自己的判断失误愿意公开道歉。
至今，这起事件的真相仍然扑朔迷离，还需要等待最后的调查结果。但不管结果如何，这都给大家敲响了警钟，连只能算得上 L2 级别自动驾驶的定速巡航功能都存在这么多不确定性，自动驾驶的安全隐患是个需要引起高度重视的问题。
在自动驾驶的几次重大事故发生后，网络上对于这些事故的原因出现了各种各样的猜测和分析。对于真正意义上的第一件自动驾驶致死案（2016 年 1 月发生于中国邯郸），虽然今年初特斯拉已经承认事故发生时汽车的 Autopilot 处于开启状态，但具体的事故原因仍然不明。目前仅 2016 年 5 月份发生在美国佛罗里达州的特斯拉致死案公布了非常完整而详尽的事故调查报告，这份报告来自美国国家交通安全局（National Transportation Safety Board，简称 NTSB），耗时一年半。NTSB 在报告中确认，特斯拉的自动驾驶系统 Autopilot 并无功能缺陷，也无需安全召回。至少在技术上，特斯拉并不是过错方。
完整调查报告链接：
https://www.ntsb.gov/investigations/AccidentReports/Reports/HAR1702.pdf
AI 前线将报告中与特斯拉相关的关键结论整理如下：
特斯拉的自动车辆控制系统并不是为检测穿过汽车行驶路径的卡车或可能发生的车祸而设计的，而系统也确实没有检测到；由此，才导致事故发生时特斯拉的 Autopilot 系统没有减速，前置碰撞警告系统没有发出警告提示，自动紧急刹车也没有激活。
如果自动车辆控制系统不能在符合设计的场景下自动限制系统操作，那么被司机滥用的风险依然存在。
特斯拉驾驶员对 Autopilot 系统的使用模式表明，他并未意识到系统的缺陷且对自动控制系统过度依赖。
特斯拉 Autopilot 系统监测和响应驾驶员与方向盘交互的方式，并不能有效确保驾驶员在驾驶过程高度集中注意力。
虽然这一次特斯拉被认为并无技术过错，但自动驾驶系统却并非不存在失控的可能。AI 前线专访了西雅图 NewSky Security 联合创始人、CTO 李嵩先生，他对自动驾驶 / 巡航系统可能的失控原因进行了简单的分析：
对于自动巡航系统，最简单的巡航需要感知车速，并且控制汽车发动机风门、喷油，形成负反馈循环。如果车速传感器，风门控制，油喷还有引擎控制器出问题，都有可能造成失控。但是汽车并不是简单的负反馈机制，还有很多工程上的设计让系统失效的时候，回到一个安全状态，所谓的 fail-safe 设计。所以并不是随便一个部件故障就会让巡航失控的，即使巡航出了问题，任何加油，刹车或者手动操作都可以退出巡航状态。所以巡航失控的可能性是非常小的。
自动驾驶涉及的方面就太多了，巡航涉及的控制只是车速的变化，自动驾驶对车的控制包含了车速，转向，刹车等，传感器至少有激光雷达 Lidar，摄像头和卫星定位系统，如北斗和 GPS，为了乘客舒适度和车身稳定，还有惯性加速度传感器，三维陀螺仪等传感器。而中间的处理单元就更加复杂了，涉及计算机视觉，实时操作系统，高清晰地图，精准定位等多个方面。我们都知道，一个没有足够容错设计的复杂系统更加容易出故障。比如西雅图华盛顿大学的 Yoshi 教授就创造了一种可以欺骗自动驾驶的方法，只用几个即时贴，就可以让自动驾驶的计算机视觉系统，误以为一个停车标志是一个限速牌，从而造成事故。而从计算机安全的角度来说，传感器越多，计算机越容易被传感器的输入欺骗，造成失控。所以各种视觉欺骗，激光照射，对传感器数据的改变，都可能造成自动驾驶的失控。
大众对于自动驾驶汽车最关心的无非两点：1. 自动驾驶汽车是不是真的安全？2. 消费者什么时候可以真正坐上自动驾驶汽车？
对于第一个问题，AI 前线查阅了大量资料，同时采访了有关专家，对于安全问题，我们为各位读者总结了以下几个要点：
（注：以下内容部分引自知乎用户陈光的回答，原答案详见：
https://www.zhihu.com/question/65799732）
先来看一张各大车厂自动驾驶汽车的水平分布图，从下往上级别逐级上升。
可以看到，目前大部分车企处在 L2 的水平线上，而特斯拉处于 L2.5 的水平，只有奥迪，一骑绝尘冲到了 L3 的水平。那么下一个问题就来了：这些个 L 到底是什么意思呢？
这里就需要祭出这张全球通用的自动驾驶 SAE 分级图了：
简单解释一下：
Level 0：无自动驾驶，丫就是一报废汽车，连 ABS 防抱死系统都没有，这种车连上路都困难；
Level 1：驾驶员辅助，一般来说，生活中常见的汽车都是这个级别的，有一些简单的 ABS，以及在 ABS 基础上升级而来的 ESP，还有高速路段常用的定速巡航、ACC 自适应巡航功能及 LKA 车道保持辅助；
Level 2：部分自动化，如果一个车辆能同时做到 ACC+LKA（自适应巡航 + 车道保持辅助），那么这辆车就跨进了 Level 2 的门槛，近几年市面上销售的汽车也都逐渐加入了这两个功能，向自动驾驶过度；
Level 3：有条件自动驾驶，指在某些特定场景下进行自动驾驶，某些车厂的自动驾驶汽车会有这样的功能：当车速小于或等于 60 公里 / 小时，用户可以启动道路拥堵状况下的自动驾驶功能。在当地法律允许的情况下，车辆会完全接管驾驶任务，直到系统通知用户再次接管。这也是目前在全球范围内，在实现量产的车型中拥有的最高级别的自动驾驶能力；
Level 4：高度自动驾驶，这也是目前百度、Uber、Google 等等科技企业在孜孜不倦进行研究的级别，它们的自动驾驶汽车有一个很明显的共同点，就是头上顶着一个大大的激光雷达。激光雷达提供了极高精度和极其丰富的感知信息，这使自动驾驶车自如处理极端工况成为可能。激光为主，视觉为辅，再加上车上各种功能冗余的传感器及高精度电子地图，在开放道路上实现 A 点到 B 点的自动驾驶不再遥远；
Level 5：完全自动驾驶，只要给出一个 GPS 坐标点，L5 的自动驾驶车就能到你指定的地方，无论这地方的法规是靠右行驶还是靠左行驶，自动驾驶车都能轻松应对。即全工况、全区域的自动驾驶。目前似乎还没有任何一家技术企业 or 车厂宣称自己的技术达到这个层级。
想要达到 L4 级别，目前来说有这样一些阻碍：
1. 传感器成本
激光雷达的成本短期内还降不下来，这也是 L4 自动驾驶汽车还未普及的重要原因之一。
2. 极高鲁棒性的自动驾驶算法及稳定的计算平台
Level 4 的自动驾驶算法准确性和精确性需要达到，甚至超过人类的认知水平，这就需要的是极具鲁棒性的算法和稳定的计算平台。确保自动驾驶汽车即使遇到突发情况也能较好应对。
3. 高精度地图采集资质
这一项难点国外并不存在，但是国内确实是一个很大的壁垒（国防考虑）。除了大家耳熟能详的 BAT 有地图测绘资质外，国内有测绘资质的图商寥寥无几。
4. 乘坐人员接纳度
现在让任何人去乘坐一辆没有方向盘，随时都无法接管的汽车，心里多少会有些忐忑。因此人类的接纳程度也是自动驾驶普及的一个大难点，需要时间建立信任。
目前，国内外技术厂商都在为 L4 的普及进行着尝试和努力，虽然在封闭道路或者试验场地中取得了不错的成就，但是就近几日的两场事故看来，离真正商业化使用还有很长的路要走。
对于行人和乘客来说，自动驾驶最重要的就是安全性。当计算机技术进入以自动驾驶汽车，联网医疗设备等为代表的物联网时代，也标志了计算机开始在真实世界替人类做出很多至关重要的决策。这个时候，除了以前的编程模式，必须在系统中引入攻击者模型。换成人话说，就是不能光想好事儿，也得想想坏蛋会对系统干啥。
早在第一例自动驾驶失控案发生的时候，就有人提出过以问：排除系统自身的失控问题，如果车辆是因为收到了黑客的控制而失控，后果更加不堪设想。
远程操控无人车，可能吗？可能。
李嵩在接受采访时告诉 AI 前线：这个不仅是可能，是已经现实了。2015 年吉普切诺基在高速上被黑客控制，最终停在路边，就是远程控制汽车并且自动驾驶的活生生的例子：汽车被远程控制，听从控制者的命令，司机的操作完全被忽略。
李嵩说：自动驾驶除了要考虑到车在正常情况下的加速减速制动导航，也得考虑到各种复杂的情况，比如道路障碍：行人，动物，其他车辆，特殊路况如冰雪，路牌缺失等等。容易解决的技术问题是那些我们知道的，不容易解决的技术问题是那些我们不知道的，最困难的问题，是那些我们不知道我们不知道的，比如说攻击者会对汽车和车载计算机网络进行什么样的攻击？
据了解，目前全球各大车厂都在考虑这些问题，并且在车辆的设计中引入更好的安全机制。计算机安全领域的专家们也加入了这些工作组，在保卫车主和行人的安全。
现在说起这个问题，或许没几个人敢再拍着胸脯保证说：到 XX 年无人车就能安全上路。
前 Uber 自动驾驶组员 Anne Widera 在接受媒体采访中曾表示：自动驾驶汽车是一种非常依赖地理条件的实体产品，而且这种产品的推出也是一件非常缓慢的事情。
前 Google 经理 David Lu 认为：目前还没有哪家公司占据明显的领先优势，市场已经证明了这一点，否则其他人也不会入局。从今天算起，直到明年也不可能出现某一个占据明显优势的公司，直到出现某个公司可以在城市中提供像 Uber 或是 Lyft 之类的服务并获得收益为止。
上面两位的回答总结起来其实就是一句话：自动驾驶短时间内无法商业化的一个重要原因就是缺少一份通用的行业标准。
李嵩在接受采访时分析道：自动驾驶不同于人脸识别、语音识别，这些 AI 都是不会对物理世界造成太大影响的，最多也就是把主人锁在屋子外面而已。无人车失控的损失是非常巨大的，而且很多人认为这不应该是一个概率问题，相反，有呼声认为应该把无人车放在专用道，就像现在的铁路一样。这是一个看起来比较现实，可以平衡各方诉求的方案。
他认为，一旦技术进入实用，特别是会造成人身财产损失的技术，必然会引起法律，道德等等的问题。比如大家讨论的比较多的，面对车祸是保全车主还是路人的问题，出了车祸应该罚厂商还是找个程序员祭天的问题等等。从历史看，技术往往不会等待社会准备好再前进，所以这中间会有各种事情出来。
虽然自动驾驶汽车商业化没有一定的标准，但是至少在大多数情况下不应该伤及人命是大家的共识了，同时，更低的出错率、更高的安全标准将会是整个行业未来的发展趋势。
Uber 已经全面停止了无人车的测试工作。目前来看，自动驾驶显然还有很长的路要走。
自动驾驶的概念自提出之时就备受瞩目，无奈由于技术的限制，这项技术在近几年才得到快速的发展与进步。
然而技术的进步不能成为盲目宣传的代名词。自动驾驶车辆上面的乘客、城市道路上来往的行人，人类才是这项技术真正需要关注和服务的对象，在这个瞬息万变的时代，我们从不担心某项技术落地的时间到底是早还是晚，我们最关心的是这项技术能否安全、顺利地为人类所用。
引用李嵩在接受采访时说的一段话作结：
自动驾驶汽车已经是机器人的范畴了。这次 Uber 事件，Uber 的自动驾驶汽车，或者说机器人，违反了阿西莫夫机器人三定律的第一条：“机器人不得伤害人类，或因不作为使人类受到伤害”。
我认为这次事件对于自动驾驶，以及之后的各种机器人发展都会产生深远的影响。未来已来，阿西莫夫的科幻已经站在我们面前，我们必须面对的事实是：算法和它控制的机器，已经开始危及普通人了。为了我们人类的安全，我们必须考虑如何掌控算法，和机器共同的生活在这个世界上。
今日荐文
点击下方图片即可阅读
机器学习研究重现难，难于上青天
活动推荐
盘点近期国内外大数据及人工智能的落地案例：
Google应用商店、广告排名等大规模推荐系统的深度学习方案
Google研究院出品：TensorFlow在深度学习中的应用
Facebook万亿级混合复杂时空数据背后的多个设计决策
Facebook机器学习技术在安全性和完整性方面的探索
前特斯拉视觉深度学习负责人：自动驾驶的计算机视觉技术实践
AI时代下，热门微博背后精准的个性化推荐技术
...
上述 AI及架构的诸多设计细节将在 ArchSummit全球架构师峰会上与大家进一步分享，详情可识别下方二维码或直接点击“阅读原文”。目前大会 8折报名中，如需帮助可联系大会票务经理（微信：aschina666），或直接致电 010-84780850。
想看更多这类文章， 请给我们点个赞吧！