报告205页｜军事背景下的机器人和自主系统

海牙战略研究中心发布军事背景下的机器人和自主系统（RAS）报告。报告指出,世界各地的军队正在根据战争的演变开发、集成和使用机器人和自主系统（RAS）。需要进一步思考这一进程在荷兰境内发生的条件以及由此可能产生的挑战和影响。此项目"军事环境中的RAS"试图为这一讨论做出贡献。

在两年的时间里，该项目产生了五篇公开研究论文，涵盖了与在军事环境中实施RAS相关的一系列主题。这些研究论文涵盖了军事适用性，道德考虑，法律话语，合作要求以及在军事背景下RAS的实施。所有研究论文都合并到这个报告中。

该报告研究分析方法侧重于获得从业者，研究人员，伦理学家，法律专家，行业专业人士，技术人员，民间社会组织，军事人员和国防界其他成员的专业知识。这样做不仅能够对主题事项建立多方面的理解，而且能够将这些利益相关者独特地联系在一起，并促进他们之间具有挑战性的讨论。在项目过程中，与董事会成员举行了五次会议，指导了我们的研究轨迹，并为我们的立场文件和研究论文草案提供了宝贵的意见。并收集了来自200多名利益相关者的专业知识，参加了我们的六次专家会议，其中包括各种方法，包括基于场景的讨论，设计会议，模拟练习和访谈。

引 言

2019 年 12 月，普京在俄罗斯国防部董事会会议上发表讲话时表示，“机器人系统和无人机正在被严格引入并用于战斗训练，这极大地提高了武装部队的能力。”几个月后，俄罗斯国防部宣布了一项价值约 420 万欧元的封闭招标，旨在“研究为新一代人工智能军事系统创建神经网络开发、训练和实施的实验模型”。虽然中国在公开场合远没有那么自夸，但他们的军事优势战略是由人工智能和自动化的发展引领的，这导致一些分析人士认为，解放军的目标是通过系统冲突和高度智能化的战争来主导。

这些观点意味着一个更大的现象。世界各地的军队正在根据战争的第四次演变开发、整合和使用机器人和自主系统，需要进一步思考在荷兰境内进行这一过程的条件以及可能出现的挑战和影响作为结果。

HCSS 项目“军事背景下的 RAS”试图为这一讨论做出贡献。在两年的时间里，该项目产生了五篇公共研究论文，涵盖了与在军事背景下实施 RAS 相关的一系列主题。该综合将这些主题联系在一起，并展示了该项目最相关的发现。下面总结了 HCSS 研究对道德要求、法律话语、合作伙伴合作、实施和概念开发和实验的观察，然后是关于 RAS 的军事适用性的初级部分。

RAS的军事适用性

机器人和自主系统(RAS)在军事环境中提供了大量、重要和深远的机会。为了观察这些系统在这种情况下的适用方式，并评估它们的实用性，需要讨论一些定义和概念:

自主性: 人类授予系统执行给定任务的独立级别。它是基于系统自身的态势感知(综合感知、感知、分析)、规划和决策，实现所分配任务的自治状态或品质。自治指的是一个自动化的范围，在这个范围内，可以为特定的任务、风险水平和人机团队的程度量身定制独立的决策。自治级别可以从远程控制(非自治)、操作员协助、部分自动化、条件自动化、高自动化或全自动化。

机器人:一种有动力的机器，能够通过直接的人的控制、计算机的控制或两者兼用来执行一组动作。它最小限度地由平台、软件和电源组成。

机器人和自主系统(RAS): RAS是学术界和科学技术(S&T)界公认的术语，强调了这些系统的物理(机器人)和认知(自主)方面。RAS是一个描述具有机器人元素和自主元素的系统的框架。重要的是要注意到RAS的每一个连续部分涵盖了一个广泛的范围。“系统”部分指的是广泛应用领域中的各种物理系统。在计算机或网络上运行的自动化软件系统，包括“机器人”(bots)，这是一种可以在没有人工干预的情况下执行命令的软件，它们不符合RAS标准，因为它们缺少一个物理组件。“机器人”部分，指的是系统的物理布局，认为系统是无人或无人居住的。

致命自主武器系统(LAWS): 是一种武器，在没有人类干预的情况下，根据人类的理解，攻击一旦发动，人类干预就无法阻止，并根据人类的决定部署该武器，从而选择和使用符合特定预定义标准的目标。

Meaningfulhumancontrol (MHC): MHC包括(至少)以下三个要素:

(1)人们在使用武器方面作出知情的、有意识的决定;(2)在他们所知道的目标、武器和使用武器的背景范围内，充分告知人民，以确保使用武力符合国际法;(3)所讨论的武器已在现实的作战环境中设计和测试，有关人员已接受充分训练，以便以负责任的方式使用武器。MHC是一个复杂的概念，在很多情况下，上述描述并不是决定性的。荷兰的官方立场是，“所有武器，包括自主武器，都必须处于有意义的人类控制之下。”

“杀手机器人”的说法缩小了公众对机器人和自主系统在军事背景下的看法，使其只适用于高度或完全自主系统的致命武力使用。在现实中，RAS可以应用于许多军事功能和任务，每个功能都有不同程度的自治(见图1)。机器人和自主系统在军事上的广泛应用带来了无数和巨大的机遇。未来几年的挑战是充分利用这些机会，利用军事优势的潜力，同时减少所构成的风险。

在这些职能中实施RAS带来了重大的挑战，但也预示着军队更加有效、高效和敏捷的新机遇。RAS继续发展国防领域的潜力可以根据这些类别进行评估。

速度。在人工智能的帮助下，RAS已经能够快速做出决策并确定威胁的优先级，从而超越人类的反应时间，缩短OODA(观察、东方、决定、行动)循环。

可靠性。将任务委托给机器需要极大的信任，到目前为止，RAS还不能在所有军事应用领域证明足够的可靠性。 然而，随着这些系统在执行特定任务时证明其可靠性和有效性，我们对它们的信心将会增加。

准确性。人工智能系统已经开发出了超过人类表现水平的面部图像识别和感知能力，尽管无人系统比人类操作人员更精确的说法存在广泛争议。

质量。由于射程和耐久力的增加，RAS有能力增强对战场空间的覆盖和压倒对手。这种潜力的最好例子就是“群集”。

范围。RAS极大地增强了监视、情报、侦察和武器系统的存在点

准确性。在短期内，由于恶劣的天气和任务的变化等意外情况，RAS将比人类更容易失败。这一弱点延伸到虚拟领域:由于失去连接，黑客和其他干扰可以使系统无法使用。

安全。RAS可以执行“枯燥、危险和肮脏”的任务，因此人类可以专注于更专业的任务，并远离火线。

成本。虽然最先进的技术将只留给最富有的玩家，但现在被认为是高度先进的系统的成本将在未来20年内下降，从而变得更广泛地可获得。

维护。考虑到系统的复杂性和所涉及的多个(外部)合作伙伴，更新和升级RAS软件和硬件可能会更加困难。

时间效率。RAS可以在不需要休息的情况下，在24/7的高标准下执行枯燥和重复的监控任务，后勤规划可以有效地解决，人类多任务处理的限制可以很快被超越。

灵活性。尽管RAS目前在执行特定任务方面表现出色，但在可预见的未来，人类仍将是最灵活的。随着开发者不断创新现有系统，这种动态很可能会发生改变。

适应能力。RAS是高度自适应的，并且在系统的生命周期(扩展、升级等)期间很容易重新配置，以便跟上动态环境中出现的新需求。

外部合法性。因此，军队与RAS的接触必须在它们(潜在的)提供的先进能力和它服务的社会价值和规范之间取得平衡。

内部的合法性。随着时间的推移，信任和组织正常化将得到加强。随着对系统的理解、可预测性和熟悉度的增加，它们在组织中的合法性将得到巩固。

结  论

在多个RAS应用程序能够有效地应用到军事工具箱之前，必须对军队特有的许多特性进行广泛的思考。在某些情况下，思考必须先于决策，而在另一些情况下，没有实际经验和实验就不能做决策。前者已经在发生，尽管规模不大。本文讨论了在获取越来越多的RAS过程中需要仔细考虑的其他观点和问题。与此同时，这里提出的问题和问题远未完成。前进的最好方法是同时进行实验和学习，同时不断地学习。

根据我们的评估，确定了实施RAS所需的若干行动，并按照发展方向加以处理。在考虑在武装部队中实施RAS时，这可以作为一个出发点。

当我们冒险进入未知领域时，本文探讨的问题将有助于更牢固地把握RAS问题。总的来说，在现代战争中只有一条前进的道路，那就是增加RAS和伴随的人工智能的使用。决策者需要通过提高这一技术的优势，并应对风险和挑战，使这条道路尽可能顺利和完整。

完整报告中英文各205页，已上传至情报学院知识星球

长按识别下方二维码加入星球，星球粉丝提供有效证件可获得多种情报分析软件独享免费使用权！

往期推荐