En la conferencia internacional "La humanidad en la encrucijada: Los sistemas de armas autónomas y el reto de la regulación", celebrada en Viena, se hicieron llamamientos para regular el uso de la IA en los sistemas de armas autónomas (AWS) mientras la tecnología está aún en pañales.
A lo largo de los siglos, los avances tecnológicos han provocado cambios radicales en la forma de librar las guerras. Desarrollos como el acero, la pólvora y, finalmente, la bomba atómica encontraron sus aplicaciones iniciales en la guerra antes de abrirse camino hacia aplicaciones civiles.
La IA se ha adelantado a la tendencia en este sentido. Las primeras aplicaciones han sido en gran medida comerciales, pero las fuerzas de defensa han visto rápidamente el potencial de la IA para transformar de nuevo el campo de batalla.
Haciendo referencia a la primera bomba atómica, el Ministro de Asuntos Exteriores austriaco, Alexander Schallenberg, dijo a los asistentes de 143 países que el mundo se enfrenta a un "Momento Oppenheimer" a la hora de decidir si la IA debe utilizarse en armas autónomas y cómo.
La humanidad en la encrucijada: Los sistemas de armas autónomas pronto llenarán los campos de batalla del mundo. Tenemos que actuar y acordar normas internacionales para garantizar que las decisiones sobre la vida o la muerte nunca sean tomadas por máquinas.
➡️ Pistoletazo de salida #AWS2024Viena con más de 900 invitados de 142 estados pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29 de abril de 2024
El impulso detrás de la urgente necesidad de una normativa no fue sólo la anticipación de posibles amenazas futuras, sino en respuesta al uso de la IA en conflictos actuales.
Drones autónomos están siendo utilizados por ambos bandos en la guerra de Ucrania. Fuerzas israelíes están utilizando la IA en múltiples aplicaciones de defensa, incluido el supuesto uso de la IA para identificar objetivos humanos en la guerra de Gaza.
Schallenberg afirmó que "los sistemas de armas autónomas pronto llenarán los campos de batalla del mundo", y advirtió de que ahora es el "momento de acordar reglas y normas internacionales que garanticen el control humano".
Insistió en la necesidad de restringir la autonomía de las armas de IA: "Al menos asegurémonos de que la decisión más profunda y trascendental -quién vive y quién muere- siga en manos de los humanos y no de las máquinas".
En una declaración del gobierno austriaco se afirma: "Los sistemas de armas autónomas (AWS) plantean profundas cuestiones desde el punto de vista jurídico, ético, humanitario y de seguridad. La humanidad se encuentra en una encrucijada y debe unirse para abordar el reto fundamental de regular estas armas."
Dólares de defensa frente a humanidad
Los conflictos en curso han hecho aumentar los presupuestos de defensa en todo el mundo, y las cotizaciones de varios Empresas tecnológicas de defensa basadas en IA en respuesta. Las tecnologías AWS pueden ser demasiado lucrativas para prohibirlas.
Jaan Tallinn, uno de los primeros inversores de Google DeepMind Technologies dijo que "los incentivos de Silicon Valley podrían no estar alineados con el resto de la humanidad".
En su discurso de apertura en la conferencia, Tallinn afirmó: "Les imploro que desconfíen de quienes prometen precisión y previsibilidad en los sistemas que utilizan IA. Ya hemos visto a la IA cometer errores de selección en formas grandes y pequeñas: desde reconocer erróneamente la cabeza calva de un árbitro como un balón de fútbol, hasta muertes de peatones causadas por coches autoconducidos, incapaces de reconocer el cruce imprudente."
"Debemos ser extremadamente cautos a la hora de confiar en la precisión de estos sistemas, ya sea en el sector militar o en el civil. Los errores accidentales causados por las armas autónomas tienen el potencial de desencadenar el tipo de guerras que nunca deberían librarse."
Tallinn señaló que diseñar armas de IA que sean más fiables no es la solución. Explicó que, "incluso cuando las armas autónomas lleguen a ser capaces de distinguir perfectamente entre humanos, facilitarán considerablemente la realización de genocidios y asesinatos selectivos que busquen características humanas específicas."
"Salir de una carrera armamentística requiere valor y previsión. Lo hemos hecho antes y podemos volver a hacerlo".
De la apertura de los trabajos de la histórica Conferencia de Viena sobre Armas Autónomas #AWS2024 ayer, aquí está el discurso completo de Jaan Tallinn, cofundador de FLI ⬇️ pic.twitter.com/wFYxWpDl1S
- Instituto del Futuro de la Vida (@FLI_org) 30 de abril de 2024
En una declaración final que se enviará al Secretario General de la ONU, el grupo afirma su "firme compromiso de trabajar con urgencia y con todas las partes interesadas en favor de un instrumento jurídico internacional que regule los sistemas de armas autónomas".
La declaración añadía: "Tenemos la responsabilidad de actuar y establecer las normas que necesitamos para proteger a la humanidad... El control humano debe prevalecer en el uso de la fuerza".
Más de 115 Estados miembros de la ONU están de acuerdo en la necesidad de una normativa vinculante que regule las AWS, pero eludir el veto de Rusia, China o el US parece poco probable.
Anthony Aguirre, cosmólogo y cofundador del Future Life Institute, resumió la situación diciendo: "El futuro de los robots de matanza ya está aquí".
