Con motivo de la cumbre del APEC que Estados Unidos y China celebran esta semana en San Francisco, las autoridades estadounidenses están presionando para que se hable de los riesgos que plantea el uso militar de la inteligencia artificial.
Fuente: Wired
El presidente estadounidense Joe Biden se reunió esta semana con su homólogo chino Xi Jinping en la bahía de San Francisco, con una larga lista de asuntos que tratar, entre ellos la guerra entre Israel y Hamás y la actual invasión rusa de Ucrania. Poca cosa no son.
Sin embargo, entre bastidores, en la cumbre del Foro de Cooperación Económica Asia-Pacífico (APEC), las autoridades estadounidenses buscaron entablar un diálogo con China sobre el establecimiento de límites al uso militar de la inteligencia artificial, con el objetivo último de reducir los riesgos potenciales que podría conllevar la rápida adopción (y el uso imprudente) de esta tecnología.
“Tenemos un interés colectivo en reducir los riesgos potenciales del despliegue de aplicaciones de IA poco fiables” debido a los riesgos de una escalada no intencionada, declara un alto funcionario del Departamento de Estado familiarizado con los recientes esfuerzos para abordar la cuestión y quien habló bajo condición de anonimato. “Tenemos muchas esperanzas de mantener una nueva conversación con China sobre esta cuestión“.
La reunión de Biden con Xi esta semana puede dar impulso a un mayor diálogo militar. “Realmente esperamos que sea una reunión positiva de líderes”, comenta el funcionario del Departamento de Estado. “Realmente podemos entender a partir de esa conversación, hacia dónde podría progresar nuestra posible conversación bilateral sobre control de armas y no proliferación”.
Estados Unidos a la cabeza de la legislación
EE UU ya está liderando un esfuerzo para construir un acuerdo internacional en torno a las barreras para la IA militar. El 1 de noviembre, la vicepresidenta Kamala Harris anunció que 30 naciones habían acordado respaldar una declaración sobre la IA militar, que pide que la tecnología se desarrolle de acuerdo con el derecho internacional humanitario, utilizando principios diseñados para mejorar la fiabilidad y la transparencia y reducir los sesgos, de modo que los sistemas puedan ser desactivados si muestran un “comportamiento no intencionado.”
EE UU ha estado presionando a otras naciones para que se unan a la declaración. La declaración “hace avanzar las normas internacionales sobre el uso militar responsable de la IA y la autonomía, proporciona una base para construir un entendimiento común y crea una comunidad para que todos los Estados intercambien las mejores prácticas”, afirma Sasha Baker, subsecretario de Defensa en funciones para Política.
EE UU, China y la Unión Europea han puesto en marcha iniciativas para dar forma a la normativa sobre IA. A principios de este mes, representantes de muchos países se reunieron en el Reino Unido para firmar una declaración en la que advertían de los riesgos que plantea la IA. Al mismo tiempo, todas las naciones con recursos se apresuran actualmente a hacer avanzar la IA lo más rápidamente posible.
Una relación… complicada
Sin embargo, el potencial militar de la IA ha surgido como un punto de fricción clave en una relación cada vez más enredada entre China y Estados Unidos. Muchos responsables políticos ven en esta tecnología una forma crucial de que Estados Unidos adquiera ventaja sobre su rival. Este potencial es una de las principales razones por las que Estados Unidos ha intentado limitar el acceso de China a los semiconductores avanzados, para dificultar su capacidad de aprovechar la tecnología con fines militares.
Los responsables políticos que abogan por la adopción militar de la IA también reconocen que la tecnología puede conllevar una serie de nuevos riesgos, como la posibilidad de que el uso de la IA aumente la desconfianza entre posibles adversarios, o que el mal funcionamiento de los sistemas provoque una escalada de las hostilidades.
“Debería haber cierto margen para debatir el uso de la IA asociada a los sistemas de armas autónomas letales”, opina Paul Triolo, experto en cuestiones de política entre Estados Unidos y China en Albright Stonebridge Group, una empresa de asesoramiento estratégico.
Los esfuerzos por prohibir las armas autónomas letales dirigidas contra seres humanos se han estancado hasta ahora en los debates de la ONU, pero una nueva resolución, anunciada este mes, puede dar más impulso a las restricciones.
Para empezar, Estados Unidos y China tienen que ponerse de acuerdo sobre la definición de este tipo de armas, sentencia Triolo. Pero cree que las conversaciones se verán inevitablemente complicadas por las sanciones estadounidenses, que apuntan directamente a la capacidad de China para desarrollar IA avanzada. En mi opinión, las conversaciones “tendrían que incluir necesariamente un debate sobre los controles estadounidenses del hardware informático avanzado”, destaca.
Tendrán que ponerse de acuerdo
Andrew Reddie, profesor asociado de investigación de políticas públicas en la Universidad de Berkeley, que estudia las tecnologías militares emergentes, señala que es posible que los beneficios compartidos de contener los riesgos de las armas de IA superen la desconfianza entre EE UU y China: “Hay una larga historia de cooperación adversaria en la búsqueda de la reducción de riesgos que sirve a los intereses de ambos países en un acuerdo”, indica.
Reddie afirma que cualquier pacto de este tipo sería probablemente simbólico y no vinculante, dada la distancia que separa a ambas partes.
Aunque se prohíban las armas autónomas letales, el uso imprudente de la IA podría hacer fracasar los sistemas militares. La rápida adopción de drones de bajo costo dotados de autonomía por parte de las fuerzas que combaten en Ucrania ha puesto de relieve el potencial disruptivo de la tecnología, y ha llevado a muchos ejércitos, incluido el estadounidense, a replantearse su enfoque tecnológico.
Hace poco que los ejércitos estadounidense y chino han reanudado sus conversaciones. Pekín congeló las conversaciones militares después de que Nancy Pelosi visitara Taiwán, la isla democrática que considera parte inalienable de China y que también es la sede del fabricante de semiconductores más avanzado del mundo, TSMC.
En febrero, después de que Estados Unidos derribara un globo espía chino que había cruzado Norteamérica, el Pentágono declaró que el secretario de Defensa, Lloyd Austin, no había podido ponerse en contacto con su homólogo chino a través de una línea directa especial.
Los recientes incidentes en el Mar de China Meridional ponen de relieve la necesidad de comunicación entre los ejércitos estadounidense y chino. En octubre, el Departamento de Defensa estadounidense hizo públicas imágenes y videos que, según afirmaba, mostraban a cazas chinos realizando maniobras inseguras cerca de aviones estadounidenses en la región. Este mes, el Ministerio de Defensa chino publicó sus propias imágenes de lo que calificó de “infracción y provocación por parte de un buque de guerra estadounidense” en el Mar de China Meridional.
El peligro será mayor
Rogier Creemers, profesor adjunto de la Universidad de Leiden que estudia la política tecnológica china, cree que los sistemas de IA podrían complicar, o hacer más peligrosos, este tipo de incidentes. “Lo que no se quiere es un sistema de decisión automatizado que no tenga la capacidad de mantener la calma y la serenidad sobre estas cosas“.
China, sin embargo, ha dado señales de estar dispuesta a reanudar el diálogo. En el Foro Xiangshan, celebrado en China en octubre, Zhang Youxia, vicepresidente de la Comisión Militar Central china, declaró: “Profundizaremos en la cooperación y coordinación estratégicas con Rusia y estamos dispuestos, sobre la base del respeto mutuo, la coexistencia pacífica y la cooperación beneficiosa para todos, a desarrollar los lazos militares con Estados Unidos”.