Hoy ha dado comienzo en el Reino Unido la Cumbre sobre Seguridad de la Inteligencia Artificial, que ha reunido en el histórico Bletchley Park a políticos, directivos de empresas tecnológicas, investigadores y miembros de grupos de defensa de los derechos civiles.
El gobierno británico dio a conocer la "Declaración de Bletchley", que recibió el respaldo de representantes de 28 países diferentes, entre ellos Estados Unidos y China.
En declaración destacó los graves riesgos asociados a los sistemas de IA "de frontera" más avanzados, afirmando inequívocamente: "Existe la posibilidad de que se produzcan daños graves, incluso catastróficos, ya sean deliberados o involuntarios, derivados de las capacidades más significativas de estos modelos de IA".
El documento también subraya la naturaleza global de los riesgos de la IA y la necesidad de cooperación internacional para afrontar estos retos: "Muchos de los riesgos derivados de la IA son de naturaleza intrínsecamente internacional, por lo que la mejor forma de abordarlos es a través de la cooperación internacional. Resolvemos trabajar juntos de manera inclusiva para garantizar una IA centrada en el ser humano, digna de confianza y responsable".
A pesar de la fuerte retórica, la declaración no llegó a fijar objetivos políticos concretos, sino que programó reuniones adicionales en Corea del Sur dentro de seis meses y en Francia dentro de un año para continuar la conversación.
El Primer Ministro del Reino Unido, Rishi Sunak, promovió activamente la cumbre como una oportunidad crucial para que líderes mundiales, empresas, investigadores y grupos de la sociedad civil se reunieran y sentaran las bases de unas normas internacionales de seguridad para la IA.
En un discurso, el Rey Carlos dijo a través de un vídeo: "Estamos asistiendo a uno de los mayores saltos tecnológicos de la historia del esfuerzo humano", y continuó: "Hay un claro imperativo de garantizar que esta tecnología en rápida evolución siga siendo segura y protegida".
Vea el mensaje de esperanza del Rey para la IA en su intervención en la primera cumbre sobre seguridad de la IA en el Reino Unido 👇
Más información sobre la cumbre: https://t.co/pdSULcNyn1 pic.twitter.com/cB4Bzu0J3n
- Sky News (@SkyNews) 1 de noviembre de 2023
Por parte estadounidense asistieron la Vicepresidenta Kamala Harris y la Secretaria de Comercio Gina Raimondo.
Desde China, Wu Zhaohui, viceministro de Ciencia y Tecnología, se mostró dispuesto a que China colabore con los demás, animando a los países a "mejorar el diálogo y la comunicación" y a que la tecnología es "incierta, inexplicable y carece de transparencia".
Rajeev Chandrasekhar, ministro de Tecnología de la India, habló de las falsificaciones profundas de la IA, "Al permitir que la innovación se adelante a la regulación, nos abrimos a la toxicidad y la desinformación y el armamentismo que vemos hoy en Internet, representado por las redes sociales".
Elon Musk, que asistió, dijo de la IA que "esperemos lo mejor pero preparémonos para lo peor".
Elon Musk en la primera cumbre sobre seguridad de la inteligencia artificial en el Reino Unido 🇬🇧pic.twitter.com/j40UNs6Cl2
- Dima Zeniuk (@DimaZeniuk) 1 de noviembre de 2023
Asistieron ejecutivos de Anthropic, DeepMind, IBM, Meta, Microsoft, Nvidia, OpenAI y Tencent, así como miembros de grupos de defensa civil como la Algorithmic Justice League.
Nuestro Director General, Dario Amodei, compartió esta tarde los principios rectores de la Política de Ampliación Responsable de Anthropic en la Cumbre de Seguridad de la IA del Reino Unido, celebrada en Bletchley Park.
Lea sus comentarios: https://t.co/WCczCCvWaj
- Antrópico (@AnthropicAI) 1 de noviembre de 2023
Aunque la cumbre fue rica en simbolismo y contó con la asistencia de figuras influyentes, los críticos argumentaron que fue más pomposa que sustanciosa, señalando la ausencia de líderes políticos clave como el presidente Biden, el presidente Emmanuel Macron de Francia y el canciller Olaf Scholz de Alemania.
Al mismo tiempo, países de todo el mundo están promulgando sus propias leyes y normativas para hacer frente a la IA. Orden ejecutiva de Biden - aunque hay que reconocer que no es una legislación en sí misma.
Principales eventos de la Cumbre sobre Seguridad de la IA
Estos son algunos de los principales acontecimientos de la Cumbre sobre Seguridad de la IA, desde los más recientes (los primeros) hasta los más tempranos (los últimos):
- "Algunas empresas tecnológicas optan por dar prioridad a los beneficios frente al bienestar de sus clientes", declaró la Vicepresidenta estadounidense Kamala Harris, subrayando la necesidad de esfuerzos de colaboración entre los gobiernos, la sociedad civil y el sector privado para abordar los retos que plantea la inteligencia artificial. Reconoció los compromisos voluntarios del gobierno de EE.UU. con las principales empresas de IA para promover el desarrollo seguro de la tecnología, afirmando la disposición de la administración a tomar nuevas medidas si fuera necesario.
- Harris destacó la creación del Instituto de Seguridad de la IA de EE.UU., con la misión de crear "normas rigurosas para probar la seguridad de los modelos de IA de uso público". Harris expresó además su deseo de que el plan nacional estadounidense sobre IA inspire la política mundial, algo que también mencionó en la firma de la reciente orden ejecutiva estadounidense.
- Harris reiteró la doble naturaleza de la IA, capaz tanto de un "profundo bien" como de un "profundo mal". Subrayó la urgencia de una acción global para gestionar las amenazas existenciales que plantea la IA, pidiendo un enfoque global para abordar todos los peligros asociados.
- La "Declaración de Bletchley Park" sobre los riesgos de la IA fue aprobada por 28 países, lo que supone un paso importante en el debate mundial sobre la seguridad de la IA. La declaración aborda las oportunidades, los riesgos y la necesidad de una acción internacional en la frontera de la IA.
- Se ha anunciado que la República de Corea acogerá la segunda cumbre sobre seguridad de la IA dentro de seis meses, y que Francia acogerá la tercera dentro de un año.
- unos "guardarraíles" adecuados para el desarrollo de la IA, destacando el papel de la cumbre en la definición de la trayectoria futura de la IA.
- Michelle Donelan, Secretaria de Ciencia del Reino Unido, expresó las profundas responsabilidades en el desarrollo de la IA, señalando el potencial de la tecnología para potenciar a la humanidad o plantear amenazas significativas.
- Sir Nick Clegg, responsable de asuntos globales de Meta, abogó por la unidad mundial en el desarrollo y la regulación de la IA, subrayando la importancia de la coherencia entre las principales jurisdicciones.
- Clegg advirtió del "peligro" de especular en exceso sobre el futuro de la IA, haciendo hincapié en la necesidad de abordar los retos tecnológicos actuales, sobre todo en el contexto de las próximas elecciones.
La segunda jornada del evento comienza mañana, 2 de noviembre de 2023.
