En la segunda jornada de la Cumbre sobre Seguridad de la Inteligencia Artificial, el Primer Ministro británico, Rishi Sunak, trató de insistir en que los desarrolladores de Inteligencia Artificial permitirán la evaluación gubernamental de las herramientas antes de su lanzamiento al mercado.
Sunak afirmó que los resultados de la cumbre "inclinarán la balanza a favor de la humanidad" y ha revelado que los líderes del sector, entre ellos Meta, Google Deep Mind y OpenAI, han dado su consentimiento para realizar pruebas previas a la publicación de sus innovaciones en IA, algo que ya habían declarado hacer en un reciente marco voluntario desarrollado por EE.UU.
Entre los compromisos asumidos durante la segunda jornada de la Cumbre figura la creación de un órgano de expertos denominado Instituto de Seguridad de la IA.
EN DIRECTO: Declaraciones del Primer Ministro Rishi Sunak en la Cumbre sobre seguridad de la IA en Bletchley Park https://t.co/YLn6O8FO7f
- Primer Ministro británico (@10DowningStreet) 2 de noviembre de 2023
Otro de los titulares del segundo día es la presentación de un próximo informe sobre el "Estado de la ciencia de la IA", dirigido por el "padrino de la IA", Yoshio Bengio.
"Esta idea se inspira en la forma en que se creó el Grupo Intergubernamental de Expertos sobre el Cambio Climático para alcanzar un consenso científico internacional", dijo Sunak.
En marco acordado aboga por la realización de evaluaciones exhaustivas de la seguridad de los modelos de IA antes y después de su puesta en marcha, haciendo hincapié en la colaboración de los gobiernos en las pruebas, sobre todo en los ámbitos que afectan a la seguridad nacional y al bienestar de la sociedad.
El compromiso de la industria con esta causa quedó subrayado por las declaraciones de Demis Hassabis, CEO de Google DeepMind, quien afirmó: "La IA puede ayudar a resolver algunos de los retos más críticos de nuestro tiempo, desde curar enfermedades hasta abordar la crisis climática. Pero también planteará nuevos retos para el mundo y debemos garantizar que la tecnología se construya y despliegue de forma segura. Para conseguirlo será necesario un esfuerzo colectivo de los gobiernos, la industria y la sociedad civil para informar y desarrollar pruebas y evaluaciones de seguridad sólidas. Me complace que el Reino Unido ponga en marcha el Instituto de Seguridad de la Inteligencia Artificial para acelerar los avances en esta labor vital".
China no participa en estas iniciativas multilaterales. Sin embargo, este pacto cuenta con el apoyo de la UE y de países líderes como Estados Unidos, Reino Unido, Japón, Francia y Alemania, y con el respaldo de gigantes tecnológicos como Google, Amazon, Microsoft y Meta.
Aunque el Primer Ministro se enfrentó a preguntas sobre la naturaleza voluntaria de los acuerdos y la ausencia de legislación vinculante, mantuvo que la IA requiere una actuación rápida, sugiriendo que los "requisitos vinculantes" para las empresas de IA podrían ser inevitables.
Junto con el Declaración de Bletchley ParkLa Cumbre intentó impulsar la acción en torno a la IA, aunque los críticos la han tachado más de simbólica que de práctica.
Antes de salir en directo con Sunak, Musk publicó en X una caricatura burlona de figuras que representaban a potencias mundiales discutiendo los riesgos de la IA mientras se frotaban las manos ante el potencial de dominación.
No deja de ser polémico, pero hay que reconocer que es una ocurrencia ingeniosa para una cumbre que se basa intrínsecamente en promesas. Sin embargo, sería reduccionista sugerir que eso significa que no se consigue nada, pero la verdadera sustancia de las conversaciones sigue siendo hipotética.
Suspiro pic.twitter.com/jDDTkewbDL
- Elon Musk (@elonmusk) 2 de noviembre de 2023
Como colofón de la cumbre, el gobierno británico emitió con orgullo la declaración de Bletchley, firmada por 28 gobiernos, entre ellos los del Reino Unido, Estados Unidos y la UE, en la que se prometía un planteamiento de colaboración en materia de normas de seguridad de la IA, evocador de los acuerdos sobre la crisis climática.
En general, los esfuerzos diplomáticos de Rishi Sunak en la cumbre sobre IA han sido reconocidos como un logro, al establecer al Reino Unido como pionero en la búsqueda de seguridad y regulación mundial de la IA, sentando las bases para que Francia acoja la próxima cumbre en 2024.
Después de 9 años presionando para que se celebrara una cumbre internacional sobre la seguridad de la IA, me ha emocionado mucho poder participar en ella. @RishiSunak tuvo más éxito de lo que esperaba, con una sorprendente unidad entre 1) EE.UU. y China, 2) los que se centran en los daños actuales frente al riesgo existencial y 3)... https://t.co/KAQ4HCIPQo
- Max Tegmark (@tegmark) 2 de noviembre de 2023
Segundo día de la Cumbre
La segunda jornada de la Cumbre tuvo como colofón un debate entre Sunak y Musk. He aquí algunos de los acontecimientos clave, desde el último del día (primero) hasta el primero (último).
Vea la retransmisión de 50 minutos aquí.
Debate sobre la IA con @RishiSunak
pic.twitter.com/f5FHGQzE4r- Elon Musk (@elonmusk) 2 de noviembre de 2023
- Musk argumentó que un "interruptor de apagado" físico podría desconectar la IA en caso de problemas catastróficos. "¿Y si un día reciben una actualización de software y, de repente, no son tan amigables después de todo?". dijo Musk a Sunak.
- Cuando Sunak pregunta por qué Musk cambió recientemente el sistema de moderación de contenidos de Twitter, Musk argumenta que todos los moderadores de contenidos tienen prejuicios. Se pregunta: "¿Cómo podemos tener un enfoque de la verdad basado en el consenso?" y dice que su objetivo es llegar a una "verdad más pura". Musk afirma que su nuevo sistema de moderación simplemente proporciona más contexto y transparencia, declarando: "Todo es de código abierto. Puedes ver todos los datos y comprobar si se ha jugado con el sistema, sugerir mejoras... La verdad paga".
- Musk predice que, en el futuro, los robots de IA podrían convertirse en verdaderos amigos de los humanos. Podremos hablar con ellos todos los días y tendremos un gran amigo. Será algo real".
- Musk hace la audaz predicción de que la IA avanzará hasta el punto de que "no se necesite ningún trabajo" para los humanos. Afirma: "Puedes tener un trabajo si quieres para tu satisfacción personal, la IA puede hacerlo todo". Musk afirma que esto podría ser positivo o negativo, planteando retos para encontrar sentido y propósito. Pero también argumenta que podría proporcionar "altos ingresos universales" y hacer los mejores tutores. En general, ve muchos beneficios para la educación, la productividad y la automatización de trabajos peligrosos.
- Cuando Sunak señala que recibió críticas por invitar a China, Musk elogia la decisión calificándola de "valiente". Musk sostiene que colaborar con China en la seguridad de la IA es esencial, y afirma que su participación es una señal muy positiva.
- Musk le dice a Sunak que cree que los gobiernos deben actuar como "árbitros" para garantizar la seguridad pública con la IA sin dejar de permitir la innovación. Reitera su opinión de que, en general, la IA será "una fuerza para el bien". Esto es contrario a lo que Musk ha dicho en el pasado, lo que demuestra sus opiniones serpenteantes sobre la IA.
- Antes de su conversación, Musk se muestra optimista sobre el potencial de la IA, pero advierte de que podría plantear riesgos, utilizando la analogía de un "problema de genio mágico" en el que los deseos a menudo salen mal.
- Durante su conferencia de prensa, Sunak defendió las medidas que están tomando los gobiernos para hacer frente a los riesgos de seguridad de la IA, afirmando que están haciendo lo "correcto y responsable" para proteger al público, aunque los riesgos sean aún inciertos.
- Una nueva encuesta revela que sólo 15% de los encuestados confían en la capacidad del Gobierno británico para regular eficazmente la IA. 29% no expresan ninguna confianza.
- A la pregunta de si la IA podría plantear amenazas existenciales, Sunak afirma que es plausible que pueda entrañar riesgos de la magnitud de una guerra nuclear o una pandemia. Por ello, afirma que los dirigentes tienen el deber de tomar medidas de protección.
- La Secretaria de Ciencia, Donelan, afirma que el riesgo de la IA que más le preocupa es el "escenario Terminator", en el que las máquinas se vuelven incontrolables. Lo considera menos probable, pero de mayor impacto.
En los próximos días habrá más análisis de la Cumbre. En general, la impresión que da es la de un acontecimiento simbólicamente trascendental que encierra un enorme potencial.
Pero el potencial no se convierte fácilmente en legislación y, en última instancia, en acción. Sólo el tiempo lo dirá.
