【Learning Introspective Control】DARPA开展军事系统应变技术研究

Original 掰棒子的防务菌从心推送的防务菌

一直以来，许多复杂的网络物理军事系统被设计成可以使用几十年，但它们的预期功能和能力可能会随着时间的推移而发生变化，这促使人们需要对其进行修改以适应。例如，美军高机动性多用途轮式车辆（HMMWV）的设计寿命为15年，但现在正在进行现代化改造，将车队的平均年龄延长到37年以上。在设计时，这些系统是为处理一系列预期的作战环境和参数而建造的。目前，对它们的调整是以一种即兴的方式进行的，这通常涉及到定制的售后补救措施。这些补救措施并不常见，需要熟练的技术人员来安装，而且可能需要几个月甚至几年的时间来采购。此外，随着它们的发展和被置于其原始设计之外，这些系统可能会出现意外的故障或出现无意中的危险。

DARPA“学习内省控制”（LINC）项目

为了解决这一问题，DARPA制定了“学习内省控制”（LINC）项目，旨在开发基于机器学习（ML）的内省技术，使系统在遇到不确定性或意外事件时能够调整其控制规律。该项目还寻求开发技术，将这些变化传达给人类或人工智能操作员，同时保留操作员的信心并确保操作的连续性。

据DARPA信息创新办公室（I2O）负责“学习内省控制”的项目经理约翰·弗朗西斯·梅根（John Francis Mergen）介绍说：“当前，我们从精致的控制系统开始，但后来有人需要添加一些东西或进行修改。所有这些都会导致安全操作限制的变化。这些变化的方式是原设计者没有预料到的，或者更可能是无法预料到的。知道军事系统无疑需要被改变，我们需要更大的适应性。”

梅根指出：“当一个系统在一个不同的空间‘醒来’时，它需要能够意识到有一些事情它不能再做了，或者有一些新的事情它可以做，并'学习‘如何适应其新的操作现实’。有了LINC，我们希望为物理系统提供能力，弄清什么是仍然可行的，提醒操作者，然后帮助他们在这个新的空间里操作。”

开发LINC技术将需要解决一系列与学习控制和向操作者传达态势感知有关的具体挑战。目前最先进的（SOTA）机器学习方法对未知或非结构化的参数不确定性并不强健，这主要是由于在设计时对其操作设定的界限，以及对其操作模型的固定假设的依赖。此外，复杂的系统如无人机群无法迅速收敛于一个共同的解决方案。当单个无人机发生损坏时，无人机群无法统一适应，可能会导致操作者失败或不安全的操作条件。

LINC的第一个研究领域将寻求克服目前阻碍系统适应的学习模型和机器学习技术中的现有限制。该项目将探索如何为系统提供感知变化的能力，然后只用机载传感器和执行器来重建控制。LINC旨在开发新的控制机制，实时检测和描述系统运行中的变化，迅速找到在这些变化条件下重建控制的解决方案，然后计算运行限制，以确定安全运行包络。

对此，梅根表示：“这个想法是，你在系统上有大量的本地传感器，你可以利用这些来确定和定义一套新的控制法则。有了这些新的规律，你就可以对系统进行校准。”

LINC 寻求解决的另一个挑战领域是围绕操作员的通信。当前天，操作员往往没有得到关于系统行为或其特定情况下的操作限制的充分解释或指导。现有的关于系统动态的提示并不总是提供选择，这使得操作员很难适当地信任其收到的信息。此外，解释目前的系统诊断显示并不总是直观的，给人类操作员带来额外的认知负担。这进一步削弱了操作员的信任，并可能导致误解、混乱和错误的行动。

LINC的第二个研究领域将着重于改进与操作人员共享态势感知和指导的方式。这个领域将探索如何翻译和有效地交流由第一个研究领域下开发的动态模型产生的操作信息。由此产生的技术必须能够为操作者（无论是人类还是人工智能）提供关于系统运行状态的更新，以及安全行动的提示。此外，它们必须能够通过提供可选性和围绕“引擎盖下”发生事情的可解释性来帮助保持操作员的信任。

LINC的第三个研究领域将专注于测试和评估所产生的技术。项目希望在整个项目过程中使用的演示平台将在复杂性方面有所发展。从一个现实的物理模型开始，在项目的最后阶段发展到一个与军事相关的系统。

DARPA将于2021年8月26日上午9:00至下午2:00（美国东部时间）在DARPA会议中心通过Zoom在线举行LINC提案者日活动。