西语精评 | 人工智能介入军事 或冲击人类道德底线
上周，谷歌公司DeepMind团队开发的AlphaGo围棋再次战胜中国顶级棋手，显示出人工智能的飞速进步。伴随大数据、云计算、物联网的兴起，人工智能正处于引领新的科技与产业革命的暴风眼。这促使我们思考，人工智能对于防务领域将带来什么影响？又将产生哪些安全挑战？
导
读
Inteligencia artificial y la próxima revolución en defensa militar
Por Zhu Qichao
La semana pasada, AlphaGo, un programa de inteligencia artificial desarrollado por el equipo DeepMind de Google, venció al mejor jugador chino, Ke Jie, en Wuzhen, provincia de Zhejiang, lo que sugiere que la inteligencia artificial será el núcleo de la próxima revolución tecnológica e industrial.
Pero, ¿cuál es la importancia de la inteligencia artificial para la industria de la defensa? ¿Cómo abordar los desafíos de seguridad que la inteligencia artificial puede causar si se usa inapropiadamente en el sector de la defensa?
La inteligencia artificial es hoy una combinación de Big Data, computación por nube e internet de las cosas.
Colossus es un conjunto de computadoras desarrolladas por los descifradores de códigos británicos durante la Segunda Guerra Mundial para ayudar en el criptoanálisis del Código Lorenz, por lo que es considerada como la primera computadora programable, electrónica y digital del mundo.
Desde entonces, sensores satelitales tecnológicamente avanzados y equipos portátiles han ayudado a mejorar el sensor inteligente y el procesamiento de la información. Para gestionar los datos y la información y obtener la máxima ventaja, el desarrollo del sistema de mando y control ha estado a la cabeza de la agenda militar.
La inteligencia artificial tiene el potencial de remodelar la tecnología de defensa y convertir la ciencia ficción en realidad, pero los nuevos desafíos para la defensa y la seguridad no deben ser subestimados.
En primer lugar, la inteligencia artificial hará que las guerras futuras sean más precisas, más rápidas y más crueles. El sistema de acciones no tripulado será ampliamente utilizado por los Estados tecnológicamente avanzados para reducir sus bajas militares, lo que podría representar una mayor amenaza para los civiles. Además, una guerra de la inteligencia artificial puede socavar las reglas de la moral humana.
En segundo lugar, la inteligencia artificial nunca puede reemplazar al ingenio humano, por lo que el ingenio humano será más importante que la inteligencia artificial creada por el hombre. Al igual que cualquier herramienta, cuando se utiliza de forma incorrecta, la inteligencia artificial puede causar mucho daño y destrucción.
En tercer lugar, la inteligencia artificial está lejos de ser perfecta. En un ambiente de confrontación, los sistemas de inteligencia artificial podrían ser invadidos o dañados por malware y virus. Por lo tanto, un sistema incontrolable de inteligencia artificial podría terminar matando a gente inocente.
Y en cuarto lugar, debido a la coexistencia de los humanos y las máquinas, es difícil identificar a los responsables de misiones defectuosas. Por ejemplo, los responsables de una catástrofe humanitaria causada por aviones no tripulados pueden involucrar al piloto, al programador de computadoras, al oficial de adquisiciones, al comandante y más gente. Por lo tanto, sería más difícil identificar a los responsables de los errores de la inteligencia artificial que los errores humanos.
Además, los terroristas podrían utilizar la inteligencia artificial y sus debilidades para lanzar ataques. En un mundo cada vez más interconectado, un ataque cibernético utilizando la tecnología de inteligencia artificial podría conducir a la piratería de los sistemas de control de armas nucleares o armas químicas y biológicas.
Muchos países están mejorando sus capacidades de defensa mediante la introducción de la tecnología de inteligencia artificial, pero deben ejercer una extrema precaución al usarla. Y puesto que cada vez será más difícil que un país por sí solo garantice una seguridad absoluta, la gente debe trabajar más de cerca para responder a los desafíos de seguridad internacional. Para construir una comunidad de destino compartido, tengo tres recomendaciones:
En primer lugar, los líderes mundiales en tecnología militar deberían asumir más responsabilidades. Debe organizarse un diálogo de seguridad de doble vía bajo la guía de los centros de expertos de todos los países para discutir cómo fortalecer el intercambio de información, evaluar los riesgos de piratería en internet, estimar el efecto de la proliferación de la inteligencia artificial y prevenir guerras y conflictos causados tanto por errores de Estados soberanos como por los ataques lanzados por entes no estatales.
En segundo lugar, en el mecanismo de alerta de desastres, la lucha mundial contra el terrorismo, la represión de la delincuencia transnacional y las misiones de asistencia humanitaria, cada país necesita facilitar una cooperación más profunda con otros países mediante el uso de la tecnología de la inteligencia artificial.
Y tercero, la redacción de una ley internacional sobre el uso de la inteligencia artificial como arma es muy importante para evitar el abuso esta tecnología. Además, las organizaciones internacionales deben coordinar y cooperar para llegar a un consenso sobre la mejor manera de aplicar esa ley en todo el mundo.
El autor es director y profesor del Centro de Estudios Estratégicos y de Seguridad Nacional de la Universidad Nacional de Tecnología de la Defensa de China.
本文作者为国防科技大学国家安全与军事战略研究中心主任、研究员 朱启超
原文整理自作者在2017年香格里拉对话会6月3日下午子论坛上的演讲