提升机器人计算系统可靠性，建立具身智能国际标准体系

近日，AIRS联合中科院计算所、美国乔治亚理工大学、美国罗切斯特大学在Communications of the ACM 上发表了过去三年合作研究的成果，解答如何提升机器人计算系统可靠性问题，这是世界上首个系统性研究支持不同机器人形态的计算系统可靠性的研究工作，为AIRS后续在具身智能机器人标准体系的工作打下了坚实的技术基础。

The Vulnerability-Adaptive Protection Paradigm Moving toward reliable autonomous machines. Communications of the ACM

https://dl.acm.org/doi/10.1145/3647638

在个人电脑和智能手机之后，下一代无处不在的计算平台很可能是机器人系统，特别是具身智能机器人系统，如服务机器人、工业机器人、农业机器人、自动驾驶汽车、无人机等。这些技术已经从实验室中的概念发展为广泛应用于交通、物流、制造、家居服务和农业等几乎所有社会领域。据预测，到2025年底，美国将有2.84亿辆汽车在运行，其中大多数将具备一定程度的自动驾驶功能。与此同时，自动驾驶无人机市场预计将达到428亿美元，年销量将超过200万架。

机器人的迅速普及背后是对其可靠性的迫切需求。最近几起引发广泛关注的事故，进一步凸显了为自主机器构建可靠计算系统的重要性。例如，几乎所有供应商，无论是在软件、硬件还是系统领域，都必须在提供汽车产品时遵循功能安全标准。因此，系统性地研究机器人系统的可靠性以及安全性迫在眉睫，本文的发表填补了这个方向的空白，为后续的工作奠定了坚实的技术基础。

本文的关键见解：

• 机器人的安全性和适应性是一个关键问题，硬件和软件的故障可能带来严重的安全隐患。

• 机器人软件栈中的算法核心并非都具备相同的弹性——前端核心通常比后端核心更为稳健。

• 本文提出的自适应脆弱性防护机制是一种经济高效的提升自主机器可靠性的方法；保护资源（无论是空间还是时间）应根据核心的固有弹性进行按比例分配。

• 机器人本质上是一个网络物理系统 （Cyber Physical System），其计算网络的弹性直接影响其物理性能。

基于软件和硬件的不同保护技术对弹性自主机器的设计影响。我们提出的脆弱性自适应保护设计范例（VAP）可共同优化性能、能效和弹性。

计算延迟和功耗对自动驾驶汽车系统的影响。(a) 当要避开的物体越近，对延迟的要求就越严格。(b) 随着自动驾驶系统功率的增加，驾驶时间会缩短

(a) 自动驾驶汽车（Autoware）和 (b) 无人机（MAVBench）的性能和弹性权衡。X 轴代表前端和后端的算法节点。左 y 轴代表单个节点的实测性能，右 y 轴代表弹性。前端表现出高运行时间和高恢复能力，而后端表现出低运行时间和低恢复能力。

基于能量比例保护设计原则的自适应故障保护设计范例 VAP，前端内核采用基于软件的技术，后端内核采用基于硬件的技术。

下一步，AIRS将基于这些学术成果与多个国际标准组织合作建立具身智能（EAI）系统的标准体系,以确保 EAI 系统的安全性、可靠性、性能和可用性。

下图展示了带有各种关键组件的 EAI 机器人系统，凸显了这些系统所需的复杂性和集成性。这种复杂性凸显了对标准框架的迫切需要，以确保安全性、可靠性、性能和可用性。

EAI 系统的安全性至关重要，因为这些系统通常在接近人类的环境中运行，任何故障或意外行为都可能导致严重伤害或伤害。确保安全包括通过可靠的硬件和软件集成、实施故障保险和紧急停止机制以及遵守严格的安全标准来预防事故。

EAI 系统的可靠性涉及物理组件的耐用性，确保它们能够经受经常性使用，而不会经常出现故障或失灵。可靠性还涉及保持稳定的性能，即系统在各种运行条件下都能准确高效地执行任务。软件的稳定性至关重要，它要求嵌入式人工智能算法和软件在运行时不会出现崩溃、错误或可能破坏功能的重大错误。此外，容错性也至关重要，它允许系统处理故障或错误并从中恢复，同时将对性能和安全性的影响降至最低。

EAI 系统的性能标准涉及所执行任务的准确性，例如精确的动作和对输入的正确响应。这些标准还包括系统完成任务的速度，以确保操作的及时性和响应性。另一个关键领域是资源使用效率，包括功耗和计算资源，确保系统能够在不使用过多能源或处理能力的情况下执行其功能。

可用性标准可确保 EAI 系统在与人类用户交互时方便用户、易于访问和有效。易用性至关重要，可确保具有不同专业技术水平的用户都能直观地操作系统。可访问性确保不同能力和残疾的个人都能使用系统。

尽管这些标准非常重要，但 EAI 行业仍处于起步阶段，目前还缺乏全面的标准框架来确保 EAI 系统的安全性、可靠性、性能和可用性。制定和实施这些标准对于促进 EAI 技术的广泛采用和有效部署至关重要。

EAI 系统和智能电动汽车（IEV）在复杂性和安全要求方面有相似之处。这两种系统都依赖于复杂的传感器、执行器和控制算法，在动态环境中执行复杂的任务，而且往往与人类近在咫尺。因此，我们可以借鉴 IEV 行业的概念来制定 EAI 系统的标准框架。

IEV 的标准框架由 50 多个标准组成，这些标准构成了从组件级到完整系统级的全面指导和规定。在组件层面，标准对电池、传感器和电机等单个部件的质量和兼容性进行认证。例如，ISO 6469 和 IEC 62133 重点关注电池安全，确保电源在各种运行条件下都坚固可靠。同样，ISO 26262 涉及电气和电子系统的功能安全，这对自动和半自动驾驶功能的安全运行至关重要。在整个系统层面，要将这些组件集成到一辆完整的汽车中，还需要制定其他标准。例如，ISO 21434 专注于道路车辆的网络安全，确保控制现代电动汽车的复杂软件系统免受黑客攻击和其他网络威胁。ISO 26262 为识别和降低与汽车电气和电子系统相关的风险提供了一个框架。这些标准确保车辆的各个方面，从单个组件到集成系统，都符合严格的安全和性能标准。

因此，我们可以在 IEV 标准的基础上建立 EAI 系统标准。然而，EAI 系统具有不同于 IEV 的独特特征。首先，EAI 系统经常与人类互动，因此可用性是标准制定的一个关键领域。其次，相同的 EAI 系统可用于不同的场景，因此有必要制定针对特定场景的性能标准。第三，群集智能是EAI系统部署的一个独特特征，因此必须制定合作评分标准，以评估不同EAI系统的合作情况。

目前工作进展请见：https://cacm.acm.org/blogcacm/establishing-standards-for-embodied-ai/

相关阅读：