人工智能与国际安全研究动态 | 第3期—俄罗斯军用人工智能:战略、应用与治理
编者按
为推进人工智能与国际安全领域的相关研究,清华大学战略与安全研究中心(CISS)组织研究团队定期跟踪最新国际研究动态,重点关注人工智能应用对国际安全带来的风险挑战,并针对人工智能安全领域国际动态、智库报告、学术论文等资料进行分析。本文是CISS推出的人工智能与国际安全研究动态第3期,主要聚焦俄罗斯军用人工智能战略、军事应用、治理等领域的发展情况。
1.军用机器人
(一)“先期研究基金会”
为在军事技术领域追赶西方国家,俄罗斯国防部在2012年前后筹备成立俄罗斯“先期研究基金会”[19],开始为军用人工智能技术的研发与应用制定规划、整合要素。2012年至2020年间,基金会共批准通过105个研发项目,截至2020年完成80余项,涉及无人战车、无人潜航器、无人机等大量自主武器项目[20]。
(二)“时代”科技城
2020年第四季度,俄罗斯国防部由2018年启动的“时代”科技城(ERA Technopolis)项目于克拉斯诺亚尔斯克边疆区阿纳帕市竣工,这是俄罗斯首个大型综合国防科技园区,是集基础研究、前沿探索、科技生产于一体的科研综合体。
科技城的研究方向以国防技术为主,可以完成从概念到产品的全流程研究,极大提高研究成果的现实转化率。科技城创建伊始,就将人工智能与机器人技术研发作为重点方向加以推广。
(三)俄罗斯国家武器装备规划
据美国外交政策研究所依据公开资料进行的分析,俄罗斯国防部每年在军用人工智能研究方面的支出约为1200万到3600万美元[21]。美国国防部每年用于非机密人工智能开发的预算为74亿美元,俄罗斯军用人工智能的预算投入总体明显低于美国。
在《2011-2020年国家武器装备规划》实施阶段,俄罗斯计划投入19.4万亿卢布(约390亿美元)用于全军武器装备现代化,但是这一目标并未完成,截至2017年约获得9万亿卢布(约180亿美元)经费。这一定程度上表明俄罗斯武器装备升级计划超出俄罗斯国防工业和国家整体经济当时的实力。
(四)俄乌冲突中的军用人工智能与自主武器
1.无人机(UAV)
在乌克兰战场上,俄罗斯和乌克兰军队都在使用军用无人机打击地面目标,并进行监视。相对便宜和易操作的商用无人机(commercial drone)技术正广泛应用于世界各地的冲突[22]。俄罗斯军方正在使用全套军用级无人机,在乌克兰上空执行情报、监视和侦察(ISR)以及战斗任务。
在乌克兰执行任务的俄罗斯无人机系统包括奥兰-10、奥兰-30、埃勒伦-3、塔希翁、扎斯塔瓦和扎拉ISR无人机,尤其是奥兰-10,这是俄罗斯军队服役数量最多的无人机。
2.地面无人车(UGV)
到目前为止,关于乌克兰危机中地面无人车应用的实例尚且不多,主要是用于地面排雷。俄罗斯军方在顿巴斯地区使用Uran-6无人车(UGVs)进行排雷。Uran-6无人车在叙利亚时期就被俄罗斯军队用于清除地雷和未爆炸弹药,在纳卡冲突中也有Uran-6无人车的身影[23]。
3.C4ISR能力
在乌克兰危机的早期阶段,俄罗斯的网络攻击破坏了乌克兰卫星通信终端网络,有可能严重扰乱乌克兰的态势感知。但自从获得“星链”卫星群,乌克兰的C4ISR能力基本上没有受到后续军事行动的影响。在“星链”的帮助下乌克兰在很大程度上躲避了俄罗斯的战场监控[24]。
随着乌克兰危机持续扩大升级,俄罗斯军用装备仍在不断研发更新。卡拉什尼科夫集团为无人机创建了一个自主导航系统。该装置不依赖卫星信号,几乎不受电子战手段的影响。据专家称,这种装置不仅增强了对俄罗斯无人机的保护,也增强了其自主程度[25]。
2020年8月,俄罗斯政府总理米舒斯京签署《2024年前俄罗斯人工智能和机器人技术领域监管发展构想》(以下简称《发展构想》)确定了其人工智能监管议程。计划在人工智能伦理准则制定方面持续加强投入,积极参与国际对话。
《发展构想》中写入一项试验性法律制度——“监管沙箱”(Регуляторная песочница),用以处理人工智能发展与隐私保护的矛盾;《发展构想》中还强调了改进技术法规与合规性评估体系,为了确保人工智能解决方案的可靠性、准确性、安全性和互操作性,建立一个现代的法律和技术监管体系。此外,《发展构想》还重点提到两点,分别是扩大共同监管和自我监管工具的使用以及维护技术主权。
2022年5月,梅德韦杰夫公开表示,俄罗斯面临的不仅是经济封锁,也是科学封锁[26]。封闭的开源开放平台使俄罗斯技术发展存在可获得性偏差。独立发展的人工智能可靠性可能更差,如果俄罗斯人工智能发展的基础设施不基于通用平台,风险的不可知性更大。
本研究团队认为,国际社会应当将俄罗斯纳入全球开源开放平台,积极与俄展开对话,增进对俄罗斯军用人工智能技术的了解,在相同的技术基础之上,在相同的平台之上,才有可能通过“人在环中”(human in the loop)的方式防范风险。西方国家对俄进行“科学封锁”反而使其不利于了解俄罗斯的技术发展,使得俄罗斯军用人工智能的透明度降低、可靠性降低,这些都有可能造成潜在风险。
撰稿:胡宇恺 指导老师:曾毅
编辑:孙成昊、郑乐锋
审核:肖茜、董汀
参考文献
[1] Cooper, J. (2016), Russia’s State Armament Programme to 2020: A Quantitative Assessment of Implementation 2011–2015, Stockholm: Swedish Defence Research Agency,
https://www.foi.se/rapportsammanfattning?reportNo=FOI-R—4239—SE
[2] ADAMSKY, D. (2014). Defense Innovation in Russia: The Current State and Prospects for Revival. IGCC Defense Innovation Briefs, 2014(5).
https://escholarship.org/uc/item/0s99052x
[3] Указ Президента РФ от 31.12.2015 N 683 “О Стратегии национальной безопасности РоссийскойФедерации”
http://www.consultant.ru/document/cons_doc_LAW_191669/7e29779661833f88338465b9015bbd3ad52af9e2/
[4]马天,韩帆俄联邦人工智能军事应用的现状、反思与政策应对,载《国防科技工业》2021年第9期
[5] Share of modern weapons in Russian army to exceed 68% in 2019
https://tass.com/defense/1053435
[6] Expanded meeting of the Defence Ministry Board ,Vladimir Putin visited the National Defence Control Centre where he took part in an annual expanded meeting of the Defence Ministry Board.
http://en.kremlin.ru/events/president/news/64684
[7] Указ Президента Российской Федерации от 10.10.2019 г. № 490 О развитии искусственного интеллекта в Российской Федерации
http://www.kremlin.ru/acts/bank/44731
[8] Указ Президента Российской Федерации от 02.07.2021 г. № 400 О Стратегии национальной безопасности Российской Федерации
http://www.kremlin.ru/acts/bank/47046/page/1
[9]封帅建构非对称竞争优势的尝试:俄罗斯人工智能治理体系的结构与逻辑解析,载《俄罗斯学刊》2022年第2期
[10] Khudoleev, V. (2018), ‘Voennaia nauka smotrit v budushchee’ [Military science is looking to the future], Krasnaya Zvezda
http://redstar.ru/index.php/component/k2/item/36626-voennaya-nauka-smotrit-v-budushchee
[11] ФПИ предложил Минобороны стандарты для искусственного интеллекта
https://ria.ru/20180320/1516808875.html
[12] Минобороны РФ: контроль в Сирии ведут с применением 70 беспилотников
https://ria.ru/20160227/1381173504.html?in=t
[13] Робототехника
https://www.era-tehnopolis.ru/technologies/robotics/
[14] Ibid
[15] Russia’s AI Enabled Military Ecosystem and Its Algorithmic Warfare
https://www.idsa.in/idsacomments/russias-ai-enabled-military-ecosystem-ssharma-160322#footnote9_kd3cbp5
[16] Moscow Showcases Breakthrough in Automated Command and Control
https://jamestown.org/program/moscow-showcases-breakthrough-in-automated-command-and-control/
[17] Минобороны собралось создать искусственный интеллект на основе нейронных сетей за 390 млн руб
https://www.interfax.ru/russia/701920
[18] Алексей Викторович Озеров,Системный анализ и моделирование боевых действий и военных систем в рубрике: использование технологий искусственного интеллекта для планирования боевых действий авиационной группировки,
http: / /vva.mil.ru /Izdaniay /VKS-teoriya-i-praktika
[19] Федеральный закон “О Фонде перспективных исследований” Федеральный закон от 16 октября 2012 г. N 174-ФЗ “О Фонде перспективных исследований”
https://rg.ru/documents/2012/10/19/fond-dok.html
[20] “Витязь”, “Маркер” и “Крыло”. Глава ФПИ — о наиболее перспективных технических проектах РФ
https://tass.ru/interviews/9076705
[21] Russia’s Artificial Intelligence Strategy: The Role of State-Owned Firms
https://sites.tufts.edu/hitachi/files/2021/02/1-s2.0-S0030438720300648-main.pdf
[22] RUSSIAN MILITARY USES DJI DRONES AS WELL NEW VIDEOS SHOW
https://dronexl.co/2022/04/15/russian-military-dji-drones/
[23] Russian peacekeepers use Uran-6 mine-clearing robot in Nagorno-Karabakh
https://tass.com/defense/1233857?utm_source=google.com&utm_medium=organic&utm_campaign=google.com&utm_referrer=google.com
[24] Radars, reconnaissance and software are shaping the artillery war in Ukraine
https://www.army-technology.com/comment/radars-reconnaissance-and-software-are-shaping-the-artillery-war-in-ukraine/
[25] «Автономность и помехозащищённость»: как новые навигационные системы повышают возможности российских боевых БПЛА
https://russian.rt.com/russia/article/1010864-bpla-navigaciya-avtonomnaya-sistema
[26] Медведев заявил, что России объявили не только экономическую, но и научную блокаду
https://www.gazeta.ru/business/news/2022/05/25/17803844.shtml
人工智能与国际安全研究动态
人工智能与国际安全研究动态 | 第2期—美国《人工智能权利法案蓝图》评析
CISS推出第1期人工智能与国际安全研究动态专报