其他
专题·人工智能安全 | AI能力边界不断扩展,将对国家安全产生深远影响
扫码订阅《中国信息安全》
邮发代号 2-786
征订热线:010-82341063
一、人工智能应用于军事斗争,传统武器如虎添翼
当代军事领域既是战略前沿技术发展汇集的核心地带,也是最富创新性、超越性、颠覆性的科学技术发展前沿,人工智能作为当前最火爆的关键新兴技术之一,在军事领域的武器装备赋能、战场情报分析、战略决策指挥、战时舆论引导等方面发挥着越来越重要的作用。
俄乌冲突战事持续焦灼,以人工智能为代表的现代关键新兴技术在其中发挥了至关重要甚至主导性的作用。2022 年 12 月,华盛顿邮报专栏作家大卫·伊格内修斯发表题为《算法如何在乌克兰打破平衡》的文章指出,美国人工智能公司 Palantir 为乌克兰军队提供了功能强大的软件系统,利用人工智能实现了精准的图像识别,通过将来自卫星、无人机以及社交媒体等渠道的图片进行关联分析,为乌克兰军方进行目标识别、瞄准打击、战事预警、战略决策提供了极大支撑。Palantir 首席执行官表示,“依托先进算法的战争系统能力之强大,等同于利用战术核武器来对抗常规武器。”3 月 24 日,前美国陆军网络司令部作战副司令罗宾·丰特斯与人工智能公司 RAIN 部门主管约里特·卡明加联合发表题为《乌克兰是人工智能战争活生生的试验场》的文章指出,俄乌冲突为人工智能技术提供了“活生生的试验场”,使真正的网络化战场愿景更接近现实。在作战武器方面,人工智能为大量使用的无人机和巡航导弹,在飞行、瞄准和射击方面提供了增强的自主能力;在战场情报方面,美国企业发挥主导作用的人工智能广泛应用于地理空间情报分析,结合了地面照片、无人机视频片段和卫星图像,产生了战略和战术情报优势;在电子对抗方面,美国 Primer 公司为乌克兰部署人工智能工具用于分析俄罗斯无线电通信,以获取战场实时情报;在舆论认知方面,俄乌双方利用人工智能生成大量虚假信息或错误信息,进行舆论引导,定向扰动民意,产生认知迷雾。人工智能在俄乌冲突各个领域的应用充分说明,此场冲突已经成为人工智能技术的试验场,并发挥了重要作用,真实战场数据反哺人工智能进行训练、调整和进化,未来将出现新型的“AI”战争。关于 AI 增强武器系统的公开报道只是冰山一角,人工智能技术已经开始部署在远离战场的系统中,如与规划、后勤保障和预防性维护等领域相关的云计算和数据分析系统,这场革命现在已经开始,而且不会停止。2 月,乌克兰数字转型部长米哈伊洛·费多罗夫在采访中表示,完全自主的杀手级无人机是武器开发中“合乎逻辑且不可避免的一步”,乌克兰一直在“朝这个方向进行大量研发”。5 月 9 日,美国防部发布《2023国防科技战略》,明确将可信人工智能与自治系统作为支撑国防创新的关键技术领域。无论是在真实战场中的现实作用,还是在国家战略规划中的重要地位,种种迹象均表明,“人工智能+军事”的武器装备技术进一步成熟完善,一场人工智能引领的军事变革浪潮即将在不久的未来渐渐显现。二、人工智能应用于情报领域,情报生产方式变革在即
人工智能技术凭借强大的数据整合分析能力,广泛应用于情报领域,将情报分析的自动化水平提高到新的高度。传统分析员借助人工智能更好地理解数据,提升情报研判与预测能力,情报机构利用人工智能技术高效的分析海量数据,做出更精准的战略决策。
各国情报机构高度重视人工智能的赋能作用,2022 年 12 月,美国发布的《2023 财年情报授权法案》中明确指出,人工智能是美国情报界重点关注的新兴技术之一,法案指出“为提高情报竞争力,情报界必须加速采用人工智能技术并将其纳入工作流程。调研情报界在开发、获取、采用、维护人工智能技术,改进情报搜集、处理和分析全流程方面所取得的成效和不足,确保商业尖端技术能够快速在情报界应用”。随着 ChatGPT 的发布,更是掀起了该项技术在情报分析方面的应用热潮。2 月,美国中央情报局(CIA)人工智能主管拉克希米·拉曼表示,该机构正在通过联邦政府资助的研发中心以及学术界和工业界的合作伙伴寻求该领域的帮助,探索使用聊天机器人和生成式人工智能功能协助其完成日常工作和总体情报任务;将 AI 整合到 CIA 行动和系统的很多工作正在进行,以确保 CIA 成为一个成熟的、人工智能驱动的组织,并扩大对对手使用人工智能和机器学习能力的理解。3 月 29 日,英国安全事务国务大臣汤姆·图根哈特撰文称,希望英国能设立一个专注于“开源情报”(OSINT)的全新情报机构,通过人工智能技术收集分析公开来源信息,用以协助传统情报工作,一方面帮助情报人员识别对手所造成的威胁,另一方面用于打击“虚假信息”的传播。在当前数字经济时代,开源信息、网络数据已经成为情报生产的重要来源,传统人力已经不能应对巨量的情报分析任务,人工智能技术既能助力突破情报数据处理速度和规模上的瓶颈,还在情报挖掘、决策辅助等方面发挥更大作用,极大提升情报信息的可用性和洞察力。三、人工智能应用于网络攻防,产生锋“矛”固“盾”之效
人工智能之于网络攻防的赋能作用相当明显,攻防两端均可利用人工智能技术开展更加高效、精准以及定制化的行动,网络空间的对抗形势将更加严峻。
以 ChatGPT 为例,其对网络攻防已经产生了意想不到的增强作用。在攻击层面,ChatGPT 凭借其强大的代码编写能力、文本生成能力受到多方赞誉,但是这也降低了网络攻击的门槛,攻击者能够利用人工智能模型建立完整攻击链条,自动化生成攻击代码甚至具有实战功能的攻击工具。自 ChatGPT 发布以来,暗网论坛中充斥着大量使用 ChatGPT 生成恶意代码的教程和相关恶意软件,网络安全公司 CheckPoint 曾在 2022 年 12 月展示了利用 ChatGPT 实施完整网络钓鱼攻击的过程,并依据其监测数据发出了“网络犯罪开始使用 ChatGPT”的警告。近日,Forcepoint 公司的研究人员成功绕过 ChatGPT“反恶意使用”保护机制,仅花费 4 小时就生成一款具备文件窃取及隐写传输功能恶意软件,并能够逃避近 70 款检查引擎的查杀。英国安全公司 DarkTrace 发布警告称,“ChatGPT 助长了网络勒索和更高级的网络欺骗”。人工智能技术凭借其强大的模型能力,使网络攻击的自动化程度、攻击隐蔽性、攻击渗透能力等均得到了不同程度的提升,随着模型的不断改进,它将成为恶意行为者越来越强大的工具和帮手。在防御层面,人工智能与威胁情报、大数据、云计算有效融合,形成算力、算法和数据叠加优势,有效提升网络威胁的响应和处置能力。俄乌冲突中,微软联合人工智能公司 RiskIQ 协防乌克兰,从外而内识别乌信息系统中的攻击面,帮助乌克兰及时发现和阻止大量网络攻击。3 月 28 日,美国微软公司宣布将 GPT-4 引入网络安全,发布了全球首款真正意义上的网络安全 AI 产品“微软安全助手”(Microsoft Security Copilot,以下简称Copilot)。Copilot 凭借人工智能的高效数据处理能力进行网络安全事件响应、评估和防御,实现对威胁事件的秒级响应和规模化处置。微软将最前沿的网络安全技术与人工智能相结合,是 AI 能力边界的再一次有效扩展,是在 ChatGPT 热潮之后的又一项具有里程碑意义的人工智能落地应用。面对网络威胁,Copilot 是一个名副其实的“安全大脑”,它具备了网络安全专家甚至专家团队的能力,既能够让初级安全人员快速上手解决安全问题,又能够为高级安全人员面对高级威胁提供及时有效的支持。从技术角度看,微软凭借多年的积累和布局,在算力、算法和数据等人工智能核心领域占据得天独厚的优势。在算力方面,微软 Azure 云基础设施平台为 Copilot 提供了充足的计算能力;在算法方面,Copilot 将全球最先进的生成式大语言模型与其领先的网络安全专用模型相结合;在数据方面,微软积累了庞大且优质的威胁情报和安全大数据,成为 Copilot 不断进化能够凭借的巨大数据金矿。除此之外,生成式人工智能也成为 2023 年 RSA 大会最热门的赛道,谷歌、埃森哲等厂商均推出了以人工智能作为核心技术的网络安全产品,Veracode、记录未来等企业也宣布要将生成式人工智能引入自身产品。人工智能无论作为一种解决方案提供方,还是一种能够重构现有解决方案的技术,都将在未来的网络安全领域发挥重要作用。人工智能对网络安全带来了巨大而深刻的影响,它既被用来改进和加强网络安全解决方案,帮助分析人员更高效地分类威胁和修复漏洞,也被黑客用来发动更大规模、更复杂的网络攻击。人工智能将改变当前网络攻防态势,以 AI 对抗 AI 的场景将愈发普遍。四、对策建议
(本文刊登于《中国信息安全》杂志2023年第5期)
《中国安全信息》杂志倾力推荐
“企业成长计划”
点击下图 了解详情