马斯克领衔全球百名AI专家致信联合国《特定常规武器公约》会议：致命智能武器的潘多拉魔盒一旦打开，将很难被关上！
近年来，随着人工智能概念的走红，相关的应用构想也呈井喷之势伴随而来，其中最重要也是最会被公众所忽视的一个领域就是军事。目前，世界上的主要军事强国都在投入巨大的精力到智能自动化武器之中，各类无人车、无人机和无人船等新式装备层出不穷。
图丨美军“收割者”无人机
而与此同时，这种军事技术的升级仿佛并没有使人们感受到一丝安全的气息，更多的人反而是对于“大规模战争”、“机器人失控”等可能发生的事件忧心忡忡。
今天，在澳大利亚墨尔本举办的 2017 年国际人工智能联合会议的开幕致辞上，以伊隆·马斯克（Elon Musk）与 DeepMind 联合创始人 Mustafa Suleyman 所牵头的来自 26 个国家的 116 名专家正式向联合国发表公开信，呼吁采取相关的措施来制止围绕“智能武器”而展开的军备竞赛。可能的话，还应该将这类武器纳入联合国的特定常规武器公约（CCW）的武器禁用名单。
图丨伊隆·马斯克
新南威尔士大学的人工智能教授 Toby Walsh 就说到：“所有技术都有两面性，AI 也不例外。它能帮助我们解决诸如贫困、气候变化、金融危机等许多当前面临的社会问题。但同样的技术用到武器上，也会让战争机器变得更加血腥。我们需要在当下做出决定，到底要利用人工智能来做什么？”
图丨新南威尔士大学的人工智能教授 Toby Walsh
正因如此，专家们在公开信中言辞激烈，甚至发出了严正的警告，认为当下发生在军事领域中的技术浪潮将是继火药和核武器之后“人类战争形式的第三次革命”。在这样的时代，一旦发生战争，其结果将是毁灭性的。不仅战争的规模将会是空前的，就连战争推进的速度都将快的超乎人类的想象。
更有甚者，万一这类武器落入到恐怖分子或黑客的手中，那无疑将是对整个人类文明的巨大威胁。难怪有人惊呼：“留给我们的时间不多了，只要这个恐怖的潘多拉魔盒一打开，想再关上就难上加难了。”
而从现实的角度来看，这种担心绝非是杞人忧天。战争机器人的概念已不仅仅停留在科幻电影中了，实际的发展比人们预想来得要快。当下，已经有大量的智能武器被发明出来并投入使用了。例如韩国三星公司的研发十年之久的 SGR-A1 机器人哨兵就拥有自主射击的能力，造价约 20 万美元，很有可能会部署在朝韩边境。
图丨SGR-A1 机器人哨兵
根据了解，这型自动武器系统的功能十分强大，不仅可以通过内置的摄像头、热量传感器和运动传感器来执行监视、声音识别等任务。甚至还可以对目标进行自动射击和发射榴弹攻击，其原型设备也可以适配在海陆空三军的武器平台上。但令人感到恐怖的是，SGR-A1 目前尚不能区分敌我的身份，轻易投入战场将会带来难以预估的灾难。
图丨SGR-A1 并不能很好地区分敌我
陆地作战力量的发展远不止于此，俄罗斯、美国和其他国家正在开发具有自主操作系统的坦克车辆，最具代表性的就是俄罗斯的天王星-9（Uran-9）多功能无人战车。还有越来越多的传统坦克战车将加载自主操作系统。
图丨俄罗斯的 Uran-9 多功能无人战车
与此同时，军用无人机的发展在最近几年也达到了一个高潮，例如英国 BAE 公司所研发的雷神无人机（Taranis drone）就可以搭载空空导弹和空地导弹进行自主飞行。其飞翼式的气动布局设计十分符合隐身的需要，常规的雷达将很难监测的到，预计会在 2030 年前后成为英国皇家空军的重要组成部分。
图丨雷神无人机
在海军方面，美军于 2016 年推出的无人战舰“海上猎手”号（Sea Hunter）最具代表性。它不仅能够在无人操控的情况下连续航行两三个月，最高时速可以达到 27 节，而且它还具有极强的反潜能力。此外，波音公司研发的无人水下航行器 Echo Voyager 也被会被美军用于军事用途。
图丨“海上猎手”号无人战舰
这一切都印证了众多人工智能专家此前的警告，即随着 AI 技术的快速发展，那种完全自动化的智能武器将在几年之内就成为部队的标配。也许有人会说，让机器人来代替人作战，不是会大大降低士兵的伤亡吗？但结果可能恰恰相反，人工智能技术的成熟以及智能作战机器人的普及意味着战争的门槛将被大大降低，任何人都可以操纵一支部队来挑起一场战争，由此带来的人类的伤亡恐怕只会越来越多。
实际上，这已经不是第一次有人公开呼吁要禁止智能武器的发展，早在两年前，以马斯克和霍金为代表的上千名人工智能及机器人行业的专家就提出了类似的公开信，而这在当时也引起了联合国的重视，推动了对禁止智能武器等相关问题的讨论。
时至今日，围绕人工智能的争论一直没有休止，以马斯克和扎克伯格为代表的两方人士对 AI 的发展纷纷提出了自己的观点和看法。虽然其中的是非对错我们目前还无法做出准确的判断，但可以肯定的是，无论是什么技术，只要是为战争服务的，就必将成为人类为文明毁灭“自掘的坟墓”。
附：
致联合国《特定常规武器公约》会议的公开信
由于众多公司开发的人工智能和机器人技术可能被用于开发自动武器，因此我们有责任发出警告。我们非常欢迎联合国《特定常规武器公约》（CCW）会议关于建立“致命自动武器系统监管专家组”（GGE）的决定。我们中许多研究者和工程师都殷切希望能对你们的审议提出技术方面的建议。
我们推荐来自印度的 Amandeep Singh Gil 大使做为 GGE 专家组的主席。我们也恳请 GGE 的各个缔约方能努力某种方式来制止在致命自动武器领域的军备竞赛，来保护平民不会收到这类武器滥用所造成的伤害，以及避免这类技术对世界带来的不稳定因素。
令我们深感遗憾的是，原定于今天（2017年8月21日）召开的 GGE 第一次会议，因小部分成员国没有如期缴纳联合国会费而未能如期举行。我们也再次敦促各缔约方能在推迟到 11 月召开的 GGE 第一次会议上加倍努力，来达成既定目标。
致命自动武器有演变为第三次武器革命的潜在威胁，一旦研发成功，将来的武装冲突可能达到前所未有的规模，而且其发展速度将远超人类预期。这将是一种恐怖的武器，一种暴政和恐怖分子将用来残害无辜民众的武器，一种可能被黑客挟持并用于非法目的的武器。留给我们的时间已经不多了，一旦潘多拉的盒子被打开，将很难被关上。因此，我们恳请缔约方能找到有效途径，保护全人类免受致命自动武器的威胁。
以下是公开信签署者名单（按国别首字母排序）：
澳大利亚
Tiberio Caetano， Ambiata 创始人兼首席科学家；
Mark Chatterton、Leo Gui，Ingenious AI 创始人；
Charles Gretton，Hivery 创始人；
Brad Lorge，Premonition.io 创始人兼 CEO；
Brenton O’Brien，Microbric 创始人兼任 CEO；
Samir Sinha，Robonomics AI 创始人兼 CEO；
Ivan Storr，Blue Ocean Robotics 创始人兼 CEO；
加拿大
Peter Turner，Tribotix 创始人；
Yoshua Bengio，Element AI & 蒙特利尔学习算法实验室创始人；
Ryan Gariepy，Clearpath Robotics 创始人兼 CTO，OTTO 汽车创始人兼 CTO；
中国
周剑，优必选科技创始人；
李磊，Sankobot 创始人兼 CEO；
捷克共和国
Marek Rosa，GoodAI 创始人兼 CEO；
丹麦
Søren Tranberg Hansen，Brainbotics 创始人兼 CEO；
Esben Østergaard，Universal Robotics 创始人兼 CEO；
爱沙尼亚
Markus Järve，Krakul 创始人兼 CEO；
芬兰
Harri Valpola，ZenRobotics 创始人兼 CTO，Curious AI Company 创始人兼 CEO；
法国
Raul Bravo，DIBOTICS 创始人兼 CEO；
Raphael Cherrier，Qucit 创始人兼 CEO；
Jerome Monceaux，Spoon.ai 创始人兼 CEO，Aldebaran Robotics 创始人兼 CCO；
Charles Ollion，Heuritech 创始人兼研发总监；
Anis Sahbani，Enova Robotics 创始人兼 CEO；
Alexandre Vallette，SNIPS & Ants 开放创新实验室创始人；
德国
Marcus Frei，NEXT.robotics 创始人兼 CEO；
冰岛
Kirstinn Thorisson，冰岛机器智能研究所创始人；
印度
Fahad Azad，Robosoft Systems 创始人；
Debashis Das、Ashish Tupate、Jerwin Prabu，Bharati Robotics 创始人；
Pulkit Gaur，Gridbots Technologies 创始人兼 CTO；
Pranay Kishore，Phi Robotics Research 创始人兼 CEO；
Shahid Memom，Vanora Robots 创始人兼 CTO；
Krishnan Nambiar、Shahid Memon, Vanora Robotics 创始人
Achu Wilson，Sastra Robotics 创始人兼 CTO；
爱尔兰
Neill Gernon，Atrovate & Dublin.AI 创始人；
Parsa Ghaffari，Aylien 创始人兼 CEO；
Alan Holland，Keelvar Systems 创始人兼 CEO；
Alessandro Prest，LogoGrab 创始人兼 CTO；
意大利
Alessio Bonfietti，MindIT 创始人兼 CEO；
Angelo Sudano，ICan Robotics 创始人兼 CTO；
日本
Shigeo Hirose、Michele Guarnieri、Paulo Debenest、Nah Kitano，HiBot Corporation 创始人；
墨西哥
Luis Samahí García González，QOLbotics 创始人兼 CEO；
荷兰
Koen Hindriks、Joachim de Greeff，Interactive Robotics 创始人；
Maja Rudinac，Robot Care Systems 创始人兼 CEO；
Jaap van Leeuwen，Blue Ocean Robotics Benelux 创始人兼 CEO；
挪威
Dyrkoren Erik、Martin Ludvigsen、Christine Spiten，BlueEye Robotics 创始人；
波兰
Sergii Kornieiev，BaltRobotics 创始人兼 CEO；
俄罗斯
Igor Kuznetsov，NaviRobot 创始人兼 CEO；
Aleksey Yuzhakov、Oleg Kivokurtsev，Promobot 创始人；
新加坡
Junyang Woon，Infinium Robotics 创始人兼 CEO，前海军作战部某部门主管；
南非
Jasper Horrell，DeepData 创始人；
西班牙
Toni Ferrate，RO-BOTICS 创始人兼 CEO；
José Manuel del Río，Aisoy Robotics 创始人兼 CEO；
Victor Martin，Macco Robotics 创始人兼 CEO；
瑞士
Timothy Llewellynn，nViso 创始人兼 CEO；
Francesco Mondada，K-Team 创始人；
Jurgen Schmidhuber、Faustino Gomez、Jan Koutník、Jonathan Masci、Bas Steunebrink，Nnaisense 创始人；
阿联酋
Satish Ramachandran，AROBOT 创始人；
英国
Silas Adekunle，Reach Robotics 创始人兼 CEO；
Steve Allpress，FiveAI 创始人兼 CTO；
Joel Gibbard、Samantha Payne，Open Bionics 创始人；
Richard Greenhill、Rich Walker，Shadow Robot Company 创始人；
Nic Greenway，React AI Ltd (Aiseedo)创始人；
Daniel Hulme，Satalia 创始人兼 CEO；
Charlie Muirhead、Tabitha Goldstaub，CognitionX 创始人；
Geoff Pegman，R U Robots 创始人；
Mustafa Suleyman，DeepMind 创始人兼应用 AI 总监；
Donald Szeto、Thomas Stone、Kenneth Chan，PredictionIO 创始人；
美国
Antoine Biondeau，Sentient Technologies 创始人兼 CEO；
Brian Gerkey，Open Source Robotics 创始人兼 CEO；
Ryan Hickman、Soohyun Bae，TickTock.AI 创始人；
Henry Hu，Cafe X Technologies 创始人兼 CEO；
Alfonso Íñiguez，Swarm Technology 创始人兼 CEO；
Gary Marcus，Geometric Intelligence（已被Uber收购）创始人兼 CEO；
Brian Mingus，Latently 创始人兼 CTO；
Mohammad Musa，Deepen AI 创始人兼 CEO；
Elon Musk，SpaceX 创始人、CEO、CTO；特斯拉汽车联合创始人兼 CEO；
Rosanna Myers、Dan Corkum，Carbon Robotics 创始人；
Erik Nieves，PlusOne Robotics 创始人兼 CEO；
Steve Omohundro，Possibility Research 创始人兼 CEO；
Jeff Orkin，Giant Otter Technologies 创始人兼 CEO；
Dan Reuter，Electric Movement 创始人兼 CEO；
Alberto Rizzoli、Simon Edwardsson，AIPoly 创始人；
Dan Rubins，Legal Robot 创始人兼 CEO；
Stuart Russell，Bayesian Logic Inc.创始人兼副总裁；
Andrew Schroeder，WeRobotics 创始人；
Gabe Sibley、Alex Flint，Zippy.ai 创始人；
Martin Spencer，GeckoSystems 创始人兼 CEO；
Peter Stone、Mark Ring、Satinder Singh，Cogitai 创始人；
Michael Stuart，Lucid Holdings 创始人兼 CEO；
Massimiliano Versace，Neurala Inc.创始人兼 CEO。
-End-