EE.UU. y China celebran en Suiza otra reunión "secreta" sobre la seguridad de la IA

14 de mayo de 2024
  • EE.UU. y China han mantenido conversaciones privadas en Suiza sobre la seguridad de la IA
  • Las conversaciones giran principalmente en torno al armamento de IA, las falsificaciones profundas y la desinformación
  • A pesar de la tensión geopolítica, hay indicios de colaboración
Seguridad de la IA

Representantes de alto nivel de Estados Unidos y China se han reunido en Ginebra (Suiza) para abordar los complejos retos y riesgos potenciales de la IA.

Este serie de debates, acordadas por el Presidente Joe Biden y el Presidente Xi Jinping, se han desarrollado en relativo secreto.

Tarun Chhabra, del Consejo de Seguridad Nacional de la Casa Blanca, y el Dr. Seth Center, enviado especial en funciones para tecnologías críticas y emergentes del Departamento de Estado, se entrevistarán con sus homólogos chinos del Ministerio de Asuntos Exteriores y de la Comisión Nacional de Desarrollo y Reforma. 

El orden del día abarca un amplio espectro de temas relacionados con la IA y centrados en la seguridad. 

Además de su utilidad práctica para evitar que los daños causados por la IA se descontrolen, también es un símbolo de que la seguridad de la IA trasciende las fronteras. US-Competencia china, al menos a cierto nivel. 

Un anónimo US reconoció las perspectivas divergentes entre los dos países, declarando: "Aunque no coincidamos con China en numerosos temas y aplicaciones relacionados con la IA, creemos firmemente que una comunicación abierta sobre los riesgos críticos de la IA es esencial para garantizar un mundo más seguro."

Esta sesión en particular explorará la IA en contextos militares, pero no tocará el tema de la actual crisis económica. US sanciones contra China.

En lugar de centrarse en las relaciones geopolíticas, las conversaciones pretenden ser pragmáticas y establecer una base común en materia de seguridad de la IA. 

Las conversaciones de Ginebra también contribuirán al creciente impulso internacional para desarrollar un marco de gobernanza de la IA.

OpenAI DIRECTOR GENERAL Sam Altman habló recientemente sobre la creación de un organismo vivo para auditar y controlar los riesgos de la IA, similar al Organismo Internacional de la Energía Atómica (OIEA). 

Su razonamiento es convincente: "He abogado por un enfoque basado en las agencias para las cosas de gran calado y no... escribirlo en leyes,... en 12 meses estará todo mal escrito".

Entonces, ¿por qué no ha ocurrido? 

En estos momentos, conseguir una colaboración internacional completa en materia de seguridad de la IA parece un puente demasiado largo. Incluso si China y el US de acuerdo, Rusia permanecería firmemente en la periferia. 

A pesar de los obstáculos, la US y China han mostrado cierta disposición a colaborar en cuestiones de IA a nivel internacional. 

En marzo, el US introdujo un resolución no vinculante en la ONU abogando por una IA "segura y fiable", lo que obtuvo el apoyo de China.

Sin embargo, hay otra razón para que China acelere estas conversaciones. Parece seguro que US Armamento AI, incluyendo cazas autónomos, demostrada recientemente, está muy por delante de China. Obtener garantías de la US sobre cómo se utilizará esa tecnología no estaría de más.

Jason Glassberg, cofundador de Casaba Security y destacado experto en amenazas emergentes de la IA, sugiere que las conversaciones servirán sobre todo de base para futuros diálogos y puede que no produzcan resultados inmediatos y tangibles.

Glassberg subraya la importancia de que ambas naciones reconozcan los peligros potenciales del uso indebido de la IA, indicandoLo más importante ahora mismo es que ambas partes se den cuenta de que tienen mucho que perder si la IA se convierte en un arma o se abusa de ella".

Y añadió: "Todas las partes implicadas corren el mismo riesgo. Ahora mismo, una de las mayores áreas de riesgo es con los deepfakes, en particular para su uso en campañas de desinformación."

Con el US y el diálogo en curso con China parece progresar, es posible que no tardemos en ver la creación de una agencia internacional para la seguridad de la IA. 

Únete al futuro


SUSCRÍBETE HOY

Claro, conciso y completo. Conozca los avances de la IA con DailyAI

Sam Jeans

Sam es un escritor de ciencia y tecnología que ha trabajado en varias startups de IA. Cuando no está escribiendo, se le puede encontrar leyendo revistas médicas o rebuscando en cajas de discos de vinilo.

×

PDF GRATUITO EXCLUSIVO
Adelántese con DailyAI

Suscríbase a nuestro boletín semanal y reciba acceso exclusivo al último eBook de DailyAI: 'Mastering AI Tools: Su guía 2024 para mejorar la productividad'.

*Al suscribirse a nuestro boletín de noticias, acepta nuestra política de privacidad. Política de privacidad y nuestro Condiciones generales