为何自动驾驶汽车一定要设计“杀人编程”

假设在不久的将来，你正乘坐一辆无人驾驶车，突然发生某些事件导致车辆冲向10个正穿过马路的行人。车辆无法及时刹车，但可以转向旁边的一堵墙避免撞向那10位行人。但是，撞向墙壁可能会让身为车主和乘客的你丢掉性命。它该怎么办呢？

说到汽车技术，首先想到的是十分流行的自动驾驶汽车。许多普通汽车上都配备了一些标准程序，包括智能驾驶控制、平行停车程序，甚至自动超车命令，有了这些程序命令，你可以靠坐在椅子上休息让电脑驾车，虽然会感到有点不安。

因此许多汽车制造商开始着手研发可以完全自动驾驶的汽车。这类汽车比手动汽车更安全、干净、省油。但它们不可能绝对安全。

一些较为棘手的问题由此产生。当遇到无可避免的事故，对于自动驾驶汽车的反应，该如何进行编程设计？自动驾驶车辆是否该尽力将人命的损失减到最小，甚至意味着得牺牲车上乘员？或者是它应该要不计代价保护车上的人员？它该在这两个极端中随机做选择吗？

这些伦理问题答案的重要之处在于，它会对社会接受自动驾驶汽车的程度产生重大影响。毕竟谁会愿意购买一辆被设计成会牺牲车主的汽车呢？

那么科学技术能帮忙解决这样两难的问题吗？法国图卢兹经济学院的让-弗朗索·伯尼芬（ Jean-Francois Bonnefon）及其同事为找寻答案展开了相关研究。他们认为，尽管这些问题的答案没有正确或错误之分，但公众意见可以决定如何，甚至是否该普遍接受自动驾驶汽车。

因此，他们开始采用实验伦理学的新型科学法了解公众舆论情况。这个过程包括将伦理两难问题直接抛给大量民众，看看他们如何回答这样的问题。调查结果挺有趣，也在他们的意料之中。“我们的研究首次涉及自动驾驶汽车的道德算法引出的难题。”他们说道。

考虑一个这样的困境：假设在不久的将来，你拥有了一台自动驾驶汽车。有一天，你正乘坐这辆车，突然发生某些事件导致车辆冲向10个正穿过马路的行人。车辆无法及时刹车，但可以转向旁边的一堵墙避免撞向那10位行人。但是，撞向墙壁可能会让身为车主和乘客的你丢掉性命。它该怎么办呢？

解决此问题的办法之一是自动驾驶汽车应尽量将人员伤亡降到最低。按照这种思路，杀死一个人要比杀死 10 个人好。

但是，这种处理办法可能会带来其它后果。购买自动驾驶汽车的人会变得很少，因为这种汽车被编程为发生事故时牺牲车主，那么，路上的安全事故仍然会照常发生，更多人有可能死去，因为普通车辆造成的事故要多得多。结果就陷入进退两难的境地。

伯尼芬和他的伙伴希望从公众意见为这种伦理困境问题找到答案。他们认为公众更可能赞同与其观点相符的情境。

因此他们向数百名从事亚马逊土耳其机器人（Amazon Mechanical Turk）研发工作的人员询问这类伦理困境问题，了解他们的想法。受访者面对的假设情境是如果一辆车转向路障，会导致车上的乘客或一名行人死亡，但会挽救一名或多名行人的生命。

同时，研究人员还提供了一些不同的细节，比如，多少行人能够被挽救，决定汽车转向的是司机还是计算机，参与者是乘客还是路上不知名的行人。

研究结果很有趣，但也在意料之中。通常情况下人们赞同这样的观点：自动驾驶汽车应被设计成能使死亡人数最小化。

这种功利模式当然值得称赞，但参与者只愿意到此为止。伯尼芬和同事们得出这样的结论： “对于自动驾驶汽车在现实中如此设计，[参与者]没有太多信心。原因是：他们希望其他人坐在功利主义的自动驾驶汽车中，而自己不会购买这样的自动驾驶汽车。”

其中还涉及更复杂的问题。人们认同那些为了挽救他人而牺牲车上乘客的汽车——只要他们不用开这种车就行了。

伯尼芬及其同事指出，他们的研究还处于起步阶段，更多极为复杂的道德难题还未涉及到。未来需要应对的是不确定性和咎责问题。

伯尼芬和同事们表示这些问题会触发更多重要议题：“如果汽车上乘客生还的可能性比摩托车骑手大，为了避开摩托车，自动驾驶汽车转向墙壁，这是否可以接受？当有孩子在车上的时候，是否应该有不同的决策？因为，与成人相比，孩子们能够生活更长的时间。如果汽车制造商提供了不同版本的道德算法，而且买家在知情的情况下选择了其中一种，那么，买家是否应该为计算机决策的后果负责呢？

这些问题不能被忽略，该研究团队表示：“当我们赋予数百万辆汽车自动驾驶能力，高度重视算法的道德问题已经是非常急迫的事情了。”

MIT Technology Review 中国大陆地区独家授权，

未经授权严禁转载。

关注即将商业化的技术创新，

分享即将资本化的技术创业。

如需转载合作请直接回复“转载”

长按二维码关注：