科研手记|无人驾驶的伦理困境：撞向路人VS 牺牲自己

近年来，随着人工智能、物联网等信息技术的发展，无人驾驶市场日益升温，大量资本涌入行业。

天眼查数据显示，近十年中，无人驾驶新项目投资融资事件共376起，股权融资总额近2377.5亿人民币，现阶段我国在业/续存的无人驾驶相关公司共2934起，2020年全年度增加405家，2021年1~2月共增加28家。

然而，在市场、车企和资本竞相追逐的背后，质疑声也不绝于耳，无人驾驶在应用场景、成本控制、伦理风险和法律完善方面的限制，一直制约其商业化进程。

01

伦理困境

首先，给大家介绍一个无人驾驶领域的“电车难题”，试想一下：假设一辆无人驾驶汽车遇到突发状况，刹车失灵了，此时有两种方案：一是保持原来的行进方向，但是会撞死3名无辜的路人；二是紧急拐弯保护路人，但是会撞到护栏牺牲自己。

请问：AI系统应该选择撞向谁？如果是你，你愿意购买一辆发生事故时牺牲乘客的汽车吗？

02

MIT道德机器实验

为了探索像这样的伦理困境，麻省理工学院的研究人员于2016年部署了一个叫做“道德机器”的在线实验平台，在全世界范围内收集数据，进行聚类分析，来了解人们对伦理偏好的评估。实验结果于2018年发表在《Nature》官网上。

下图即为一个中文版的在线测试。在它的主界面上，用户可以看到不同的决策场景。

03

研究设计

这些事故场景是由道德机器产生的，遵循的探索策略集中于9个因素：保护人类还是宠物，直行还是转弯，行人还是乘客，更多生命还是更少生命，男人还是女人，年轻人还是老人，合法者还是乱穿马路者，健康者还是非健康者，高地位者还是低地位者。

最终收集到的来自233个国家和地区的3961万份数据。

04

研究结果

调查结果显示，在这个实验中，呈现出三种十分强烈的伦理偏好，分别为：保护人类而不是保护动物，保护更多的生命，以及保护年轻的生命。在研究者看来，这三个偏好应该为政策制定者着重考虑。

研究者通过进一步分析,从年龄、教育、性别、收入、政治和宗教观点等六个维度来评估个体差异。分析结果发现，个体差异对于前面提到的9个因素中的任何一个都没有特别显著的影响。其中比较显著的影响是由受访者的性别和宗教信仰所决定的。

通过地理定位，研究者们将具有同质化伦理倾向的国家集群分为三类:分别是西方、东方和广泛的南方集群。不同经济文化集群的人们的伦理偏好也有所不同。

因此，产品制造商和政策制定者们就需要去考虑，在设计人工智能系统和政策的特定国家和地区，人们的道德偏好是什么，虽然公众的道德偏好不一定是政策制定的决定性因素，但人们是否愿意购买无人驾驶汽车并且是否能够容忍它们上路的意愿，将取决于制定政策是否具有相容性。

05

反思与建议

或许有人认为，这样虚拟的场景和假设的条件，现实中我们几乎不可能遇到。然而，2018年3月，一名行人在亚利桑那州坦佩被 Uber 公司的一辆无人驾驶汽车撞死，成为无人驾驶历史上的第一起致死案件。

在事故发生 20 个月后，NTSB（美国国家运输安全委员会）公布了 Uber 致死案的“结案报告”，这份 400 多页的文件，还原了事发前的全部细节，也折射出无人驾驶真实存在的伦理困境。

这起事件，直接导致了 Uber 无人驾驶停摆 9 个月，也将当时人们对于无人驾驶技术的怀疑推至了顶峰。案件将人们引向了新的迷思——在无人驾驶时代，是否人类才会是真正的马路杀手？在现实情况中，无人驾驶系统并不完善，正确的应对措施除了要求无人驾驶汽车制造商定期发布安全报告，提高产品安全性能以外，也有必要在其设计中嵌入伦理因素的考虑，使其符合道德标准。

进一步地，通过上面的案例我们可以看到，数字经济时代，企业的创新管理面临着巨大的机遇和挑战。一方面，数字创新可以提高企业的组织绩效和生产效率，获得持续性的竞争优势；另一方面，也引发了公平歧视、隐私安全等伦理方面的风险，使得像无人驾驶这样的新兴技术在商业化的进程中受到了巨大的阻碍。

因此，研究企业在数字化创新中，如何进行商业利益和伦理风险之间的平衡，具有重要的理论价值和实践意义。而从国内外目前的研究现状来看，这一问题已经引起了部分学者的思考，并开始了将道德引入机器的尝试，特别是考虑到情感和认知在伦理思考中所起的作用。总体而言，为了使伦理理论和工程实践协调发展，有关于新兴技术伦理风险领域的探索势在必行，但依然还有很长的路要走。

来源：穹顶数据DOMEDATA公众号

作者：2019级工商管理专业硕士研究生 李琴

往期精彩回顾