Representantes de alto nivel de Estados Unidos y China se han reunido en Ginebra (Suiza) para abordar los complejos retos y riesgos potenciales de la IA.
Este serie de debates, acordadas por el Presidente Joe Biden y el Presidente Xi Jinping, se han desarrollado en relativo secreto.
Tarun Chhabra, del Consejo de Seguridad Nacional de la Casa Blanca, y el Dr. Seth Center, enviado especial en funciones para tecnologías críticas y emergentes del Departamento de Estado, se entrevistarán con sus homólogos chinos del Ministerio de Asuntos Exteriores y de la Comisión Nacional de Desarrollo y Reforma.
El orden del día abarca un amplio espectro de temas relacionados con la IA y centrados en la seguridad.
Además de su utilidad práctica para evitar que los daños causados por la IA se descontrolen, también es un símbolo de que la seguridad de la IA trasciende las fronteras. US-Competencia china, al menos a cierto nivel.
Un anónimo US reconoció las perspectivas divergentes entre los dos países, declarando: "Aunque no coincidamos con China en numerosos temas y aplicaciones relacionados con la IA, creemos firmemente que una comunicación abierta sobre los riesgos críticos de la IA es esencial para garantizar un mundo más seguro."
Esta sesión en particular explorará la IA en contextos militares, pero no tocará el tema de la actual crisis económica. US sanciones contra China.
En lugar de centrarse en las relaciones geopolíticas, las conversaciones pretenden ser pragmáticas y establecer una base común en materia de seguridad de la IA.
Las conversaciones de Ginebra también contribuirán al creciente impulso internacional para desarrollar un marco de gobernanza de la IA.
OpenAI DIRECTOR GENERAL Sam Altman habló recientemente sobre la creación de un organismo vivo para auditar y controlar los riesgos de la IA, similar al Organismo Internacional de la Energía Atómica (OIEA).
Su razonamiento es convincente: "He abogado por un enfoque basado en las agencias para las cosas de gran calado y no... escribirlo en leyes,... en 12 meses estará todo mal escrito".
Entonces, ¿por qué no ha ocurrido?
En estos momentos, conseguir una colaboración internacional completa en materia de seguridad de la IA parece un puente demasiado largo. Incluso si China y el US de acuerdo, Rusia permanecería firmemente en la periferia.
A pesar de los obstáculos, la US y China han mostrado cierta disposición a colaborar en cuestiones de IA a nivel internacional.
En marzo, el US introdujo un resolución no vinculante en la ONU abogando por una IA "segura y fiable", lo que obtuvo el apoyo de China.
Sin embargo, hay otra razón para que China acelere estas conversaciones. Parece seguro que US Armamento AI, incluyendo cazas autónomos, demostrada recientemente, está muy por delante de China. Obtener garantías de la US sobre cómo se utilizará esa tecnología no estaría de más.
Jason Glassberg, cofundador de Casaba Security y destacado experto en amenazas emergentes de la IA, sugiere que las conversaciones servirán sobre todo de base para futuros diálogos y puede que no produzcan resultados inmediatos y tangibles.
Glassberg subraya la importancia de que ambas naciones reconozcan los peligros potenciales del uso indebido de la IA, indicandoLo más importante ahora mismo es que ambas partes se den cuenta de que tienen mucho que perder si la IA se convierte en un arma o se abusa de ella".
Y añadió: "Todas las partes implicadas corren el mismo riesgo. Ahora mismo, una de las mayores áreas de riesgo es con los deepfakes, en particular para su uso en campañas de desinformación."
Con el US y el diálogo en curso con China parece progresar, es posible que no tardemos en ver la creación de una agencia internacional para la seguridad de la IA.
