下一场网络军备赛是AI的较量：例如无人机！

更多全球网络安全资讯尽在E安全官网www.easyaq.com

E安全1月29日讯 美国陆军选择让蝎子计算机服务公司（Scorpion Computer Services）为其提供 AI 系统，以运行和保护美国陆军的无人机操作。该公司首席执行官沃尔特·奥布莱恩表示，这是一场军备赛，美军使用AI保护数据中心，而敌对方也必须利用 AI 进行对抗，就看谁的 AI 更聪明。

无人机操作系统AI升级

美国陆军2018年1月宣布与 Stryke Industries 及分包商 Scorpion Computer Services 签署合同，对无人机操作进行AI升级。将 AI 系统用于通用地面控制站将有助于进行无人机操作，并提供最强大的网络安全保护。

奥布莱恩表示，利用Scorpion公司的 AI 系统ScenGen（Scenario Generator），阿拉巴马州亨茨维尔红石兵工厂的操作人员能够控制“捕食者”无人机，例如 MQ-1C 灰鹰无人机，从而形成保护或进攻群。

MQ-1C“灰鹰”

通用原子能公司的 MQ-1C “灰鹰”无人机属于中空长航时无人机，是 MQ-1 “掠食者”无人机的升级版，配有 AGM-114 “地狱火”导弹和 GBU-44/B “蝰蛇打击”制导炸弹，可承载800磅的有效载荷，将支援炮兵、战场侦查部队、作战部队、陆军特种部队和空中搜索部队等完成任务。

奥布莱恩还指出，ScenGen 可用于规划作战，测试内部系统并将回归测试自动化。该系统的速度极快，每90分钟“思考”250年的人类工作。ScenGen 基本上会想到任何可能发生的情况。

但是，ScenGen 的最大影响可能是网络安全。AI 系统的复杂性和适应能力意味着，它们会迅速响应网络攻击，并识别和保护系统的每个潜在入口。如果对方利用更智能的 AI（也许是量子计算AI）入侵 ScenGen 这类系统，其结果将是灾难性的。目前还未发现这样的 AI 系统，但这只是时间问题，未来几十年可能会被开发出来。

不能让ScenGen系统源代码泄露

奥布莱恩表示，ScenGen 最好的数字保护方式就是自己本身，而部署其它安全措施可防止该系统落入敌手。ScenGen 的源代码永远不会连接到互联网，而是通过密钥严加保护。这类代码有特定用途，也就意味着能用于无人机不代表就能用在直升机上。

若未经 Scorpion 两名高级成员授权，任何人均不能移动 ScenGen 系统。也就是说，没有人可以决定移动该系统，并且红石兵工厂的物理安全有保障。

奥布莱恩指 49 30365 49 14941 0 0 2926 0 0:00:10 0:00:05 0:00:05 3035，该系统未使用传统的编码语言（如C++或Java），而是使用自己发明的语言，而操作人员需要数年时间才能完全掌握，即使有人想控制该系统，但也不知道如何使用。不过随着技术的发展，ScenGen 终有一日也会面临淘汰，会被AI量子计算系统攻破。这类似于网络核武器，当网络战打响时，数学的较量将会决定输赢。

AI市场不断扩大，或引发灾难性后果

P&S Market Research的一份研究报告显示，全球网络安全行业的 AI 市场已在私营部门不断实现增长，预计到2023年将达到182亿美元（约合人民币1163万元）。其增长的主要原因在于，私营部门使用威胁学习算法保护企业免遭网络攻击。

美国路易斯维尔大学副教授兼网络安全实验室主任罗曼·亚姆博尔斯基表示，即使提供网络安全的 AI 软件也会面临网络攻击风险。许多网络安全系统都可能面临攻击风险，包括入侵检测和反病毒软件系统，AI 同样可能存在安全风险。入侵检测系统可被训练偏离正常行为，这就是所谓的“行为漂移”（Behavioral Drift），还可禁用反病毒软件。

亚姆博尔斯基指出，有时此类威胁归咎于人为错误，例如在某些情况下，用户获许训练 AI 系统完成某些任务，但训练出错会带来灾难性后果，超级智能系统出现故障可能会引发灾难性事件，没有恢复的可能性。

注：本文由E安全编译报道,转载请注明原文地址

https://www.easyaq.com/news/711530870.shtml

推荐阅读：

▼点击“阅读原文” 查看更多精彩内容