Durante su visita al Reino Unido con motivo de la Cumbre sobre Seguridad de la Inteligencia Artificial, la Vicepresidenta Kamala Harris anunció que 30 países se habían unido a Estados Unidos en la aprobación de su propuesta de salvaguardias para el uso militar de la Inteligencia Artificial.
Anuncio de la "Declaración Política sobre el Uso Militar Responsable de la Inteligencia Artificial y la Autonomía se publicó en el sitio web del Departamento de Estado de EE.UU. el 1 de noviembre, con detalles adicionales del marco publicados el 9 de noviembre.
En su declaración sobre el marco, Harris afirmó: "Para proporcionar orden y estabilidad en medio del cambio tecnológico global, creo firmemente que debemos guiarnos por un conjunto común de entendimientos entre las naciones".
Estos son los países que se han comprometido a apoyar la iniciativa.
En esta lista están notablemente ausentes China y Rusia. China respaldó el Declaración de Bletchleyprometiendo su apoyo en principio al desarrollo seguro de la IA en general.
La decisión de Rusia y China de negarse a respaldar la declaración sobre IA militar puede tener más que ver con los autores del documento que con sus opiniones sobre su contenido.
Otro hueco en la lista lo dejan dos países que actualmente reciben miles de millones en ayuda militar de algunos de los Estados que la respaldan: Israel y Ucrania.
Como aliados de Estados Unidos, su decisión de no respaldar el compromiso se debe más bien a que ambos países utilizan actualmente IA en los conflictos en los que participan.
Israel utiliza la IA en diversas aplicaciones militares, como su Cúpula de Hierro sistema. Ucrania ha suscitado polémica con su drones autónomos con IA que apuntan a los soldados y equipamiento militar en su conflicto con Rusia.
¿A qué se comprometen?
Si desea leer todos los detalles de lo que acuerdan los firmantes puede hacerlo aquí.
He aquí la versión corta, que puede sacrificar algo de sustancia en aras de la brevedad:
- Asegúrese de que su ejército adopta y utiliza estos principios de IA.
- Su uso militar de la IA debe cumplir el derecho internacional y proteger a los civiles.
- Los altos mandos deben gestionar el desarrollo y despliegue de la IA militar.
- Minimizar proactivamente los sesgos involuntarios en las capacidades militares de IA.
- Ten cuidado cuando fabriques o utilices armas de la IA.
- Asegúrese de que su tecnología de defensa de la IA es transparente y auditable.
- Formar a quienes utilizan o aprueban el uso de capacidades militares de IA para que no confíen ciegamente en la IA cuando se equivoque.
- Define claramente lo que piensas hacer con tu tecnología de IA militar y diséñala para que sólo haga eso.
- Seguir probando el aprendizaje automático y actualizar continuamente las capacidades de la IA militar para ver si siguen siendo seguras.
- Ten un interruptor de apagado en caso de que tu arma IA se comporte mal.
Son ideales loables, pero es dudoso que estén tecnológica o logísticamente al alcance de las organizaciones de defensa.
¿Serán ejecutables? Firmar el compromiso es una confirmación de apoyo en principio, pero no conlleva ninguna obligación legal.
Firmar un documento que dice: "Tendremos cuidado al utilizar la IA en nuestro ejército", también implica que el país tiene toda la intención de utilizar la IA como arma, aunque de forma "responsable y ética".
Al menos estos países reconocen el potencial de la IA para amplificar el daño que ya causan las armas convencionales. Este marco, ¿ha hecho que el mundo sea un poco más seguro, o sólo ha puesto el foco en lo que inevitablemente nos espera?
