La IA se enfrenta al "momento Oppenheimer" en la carrera armamentística de los robots asesinos

1 de mayo de 2024
  • Una conferencia internacional debatió en Viena la necesidad de regular las armas autónomas de IA
  • El Ministro de Asuntos Exteriores austriaco, Alexander Schallenberg, dijo que el mundo se enfrenta a un "Momento Oppenheimer"
  • La IA ya se utiliza en las guerras de Israel y Ucrania, a falta de una normativa que regule esta tecnología.

En la conferencia internacional "La humanidad en la encrucijada: Los sistemas de armas autónomas y el reto de la regulación", celebrada en Viena, se hicieron llamamientos para regular el uso de la IA en los sistemas de armas autónomas (AWS) mientras la tecnología está aún en pañales.

A lo largo de los siglos, los avances tecnológicos han provocado cambios radicales en la forma de librar las guerras. Desarrollos como el acero, la pólvora y, finalmente, la bomba atómica encontraron sus aplicaciones iniciales en la guerra antes de abrirse camino hacia aplicaciones civiles.

La IA se ha adelantado a la tendencia en este sentido. Las primeras aplicaciones han sido en gran medida comerciales, pero las fuerzas de defensa han visto rápidamente el potencial de la IA para transformar de nuevo el campo de batalla.

Haciendo referencia a la primera bomba atómica, el Ministro de Asuntos Exteriores austriaco, Alexander Schallenberg, dijo a los asistentes de 143 países que el mundo se enfrenta a un "Momento Oppenheimer" a la hora de decidir si la IA debe utilizarse en armas autónomas y cómo.

El impulso detrás de la urgente necesidad de una normativa no fue sólo la anticipación de posibles amenazas futuras, sino en respuesta al uso de la IA en conflictos actuales.

Drones autónomos están siendo utilizados por ambos bandos en la guerra de Ucrania. Fuerzas israelíes están utilizando la IA en múltiples aplicaciones de defensa, incluido el supuesto uso de la IA para identificar objetivos humanos en la guerra de Gaza.

Schallenberg afirmó que "los sistemas de armas autónomas pronto llenarán los campos de batalla del mundo", y advirtió de que ahora es el "momento de acordar reglas y normas internacionales que garanticen el control humano".

Insistió en la necesidad de restringir la autonomía de las armas de IA: "Al menos asegurémonos de que la decisión más profunda y trascendental -quién vive y quién muere- siga en manos de los humanos y no de las máquinas".

En una declaración del gobierno austriaco se afirma: "Los sistemas de armas autónomas (AWS) plantean profundas cuestiones desde el punto de vista jurídico, ético, humanitario y de seguridad. La humanidad se encuentra en una encrucijada y debe unirse para abordar el reto fundamental de regular estas armas."

Dólares de defensa frente a humanidad

Los conflictos en curso han hecho aumentar los presupuestos de defensa en todo el mundo, y las cotizaciones de varios Empresas tecnológicas de defensa basadas en IA en respuesta. Las tecnologías AWS pueden ser demasiado lucrativas para prohibirlas.

Jaan Tallinn, uno de los primeros inversores de Google DeepMind Technologies dijo que "los incentivos de Silicon Valley podrían no estar alineados con el resto de la humanidad".

En su discurso de apertura en la conferencia, Tallinn afirmó: "Les imploro que desconfíen de quienes prometen precisión y previsibilidad en los sistemas que utilizan IA. Ya hemos visto a la IA cometer errores de selección en formas grandes y pequeñas: desde reconocer erróneamente la cabeza calva de un árbitro como un balón de fútbol, hasta muertes de peatones causadas por coches autoconducidos, incapaces de reconocer el cruce imprudente."

"Debemos ser extremadamente cautos a la hora de confiar en la precisión de estos sistemas, ya sea en el sector militar o en el civil. Los errores accidentales causados por las armas autónomas tienen el potencial de desencadenar el tipo de guerras que nunca deberían librarse."

Tallinn señaló que diseñar armas de IA que sean más fiables no es la solución. Explicó que, "incluso cuando las armas autónomas lleguen a ser capaces de distinguir perfectamente entre humanos, facilitarán considerablemente la realización de genocidios y asesinatos selectivos que busquen características humanas específicas."

En una declaración final que se enviará al Secretario General de la ONU, el grupo afirma su "firme compromiso de trabajar con urgencia y con todas las partes interesadas en favor de un instrumento jurídico internacional que regule los sistemas de armas autónomas".

La declaración añadía: "Tenemos la responsabilidad de actuar y establecer las normas que necesitamos para proteger a la humanidad... El control humano debe prevalecer en el uso de la fuerza".

Más de 115 Estados miembros de la ONU están de acuerdo en la necesidad de una normativa vinculante que regule las AWS, pero eludir el veto de Rusia, China o el US parece poco probable.

Anthony Aguirre, cosmólogo y cofundador del Future Life Institute, resumió la situación diciendo: "El futuro de los robots de matanza ya está aquí".

Únete al futuro


SUSCRÍBETE HOY

Claro, conciso y completo. Conozca los avances de la IA con DailyAI

Eugene van der Watt

Eugene es ingeniero electrónico y le encanta todo lo relacionado con la tecnología. Cuando descansa de consumir noticias sobre IA, lo encontrará jugando al billar.

×
 
 

PDF GRATUITO EXCLUSIVO
Adelántese con DailyAI


 

Suscríbase a nuestro boletín semanal y reciba acceso exclusivo al último eBook de DailyAI: 'Mastering AI Tools: Su guía 2024 para mejorar la productividad'.



 
 

*Al suscribirse a nuestro boletín de noticias, acepta nuestra política de privacidad. Política de privacidad y nuestro Condiciones generales