【EDGE】DARPA增强对自主伙伴的人为控制

当前，随着信息技术技术的不断应用发展，越来越先进的自动化和人工智能技术的一个主要好处是减少人类的工作量和提高安全性，这无论是在驾驶车辆、飞机，还是在作战地点的危险街道上借助自主地面和空中人工智能伙伴进行巡逻。但是，当出现技术故障，机器不能按设计运行时，人机组队中的人类伙伴可能很快就会变得不知所措，试图在关键时刻了解他们的环境，特别是当他们已经习惯并依赖机器的能力时。如果没有对系统和环境的态势感知，人机组队中的人类成员可能无法适应，进而会降低作战安全性并威胁到任务的成功。这一现实情况在近年来现代喷气式客机的坠毁事件中得到了体现，这些事故造成了数百人死亡，仅仅是因为先进的自动化系统在飞行中出现故障，而飞行员无法及时评估情况并做出适当的反应。这些例子强调了设计人机界面（HMI）的必要性，该界面允许人类保持对高度自动化和自主系统的态势感知，以便他们能够在面对不可预见的情况时进行调整。

基于上述情况，美国国防高级研究计划局（DARPA）今天宣布推出“用于适当可扩展性的增强设计”（EDGE）项目，旨在创建一套人机界面设计工具，并将其纳入系统设计流程。通过将这些工具优先用于量化、支持和测试态势感知，而不是以牺牲态势感知为代价的认知负荷。EDGE项目将有助于创建人机界面系统，使操作员不仅能够监控自主系统，还能调整其使用以满足未预料到的情况的需要。

据DARPA国防科学办公室（DSO）负责EDGE的项目经理巴特·拉塞尔（Bart Russell）介绍：“随着高度自动化的机器和人工智能系统变得越来越复杂，人机界面发展的趋势是尽可能地减少人类的认知工作量。遗憾的是，做到这一点的最简单方法是限制信息传输。减少工作量是很重要的，因为一个超负荷的人不能做出好的决策。但是限制信息会削弱对形势的认识，使人类操作者在人工智能没有按照设计运作时难以知道如何适应。目前的人工智能系统往往是脆性的，它们不能很好地处理意外情况，而战争是由意外情况定义的。”

EDGE设计工具将专注于支持自主系统操作者的能力，他们不一定是数据科学家或人工智能专家，但他们对系统的抽象功能有足够的了解，以便在遇到非正常情况时能够与之适应。设计师将能够利用EDGE设计工具创建人机界面，帮助操作员了解人工智能系统的流程，或它是如何工作的；系统的状态与它的性能包络（即，如果它在其“舒适区”，或接近其速度、范围等的边缘）；以及环境背景，这往往是最意想不到的因素。

巴特·拉塞尔表示：“我们需要人机界面，在系统和人之间更好地交换信息。现在有很多工作专注于设计机器来理解人类的意图，称为‘人工智能心智理论’。我对帮助人类更好地理解与之合作的复杂系统感兴趣。EDGE特别关注OODA环中的‘观察、定向、决策’而较少关注‘行动’。这不是关于你按下一个按钮的速度，或你的驾驶舱的人机工程学，而是关于你如何很好地感知传给你的信息，以及这是否有助于你充分理解系统流程、机器性能包络的状态，以及在非正常情况下仍然完成任务的背景。

EDGE人机界面设计工具套件将包括量化态势感知需求的模型，以实现软件工程师和人机界面设计师之间的详细共同设计；可组合的设计方法，以加快和成熟设计的实施；以及人机界面试验板，以在设计过程的早期进行现实的测试和验证。

DARPA将于2021年6月1日举行网上提案者日。预计未来几周将在beta.SAM.gov上发布一份广泛机构公告（BAA）征集。

来将通名&非诚勿扰

---

前情回顾

---

防务菌

---

有礼有节&百无禁忌