La Cumbre de Seguridad de la IA del Reino Unido, que se celebrará los días 1 y 2 de noviembre de 2023, ha desvelado el programa completo de la primera jornada.
Con el objetivo de dar forma a los planteamientos para desarrollar una IA segura, el evento promete una asamblea de gobiernos internacionales, grandes corporaciones de IA y destacados expertos en investigación.
En particular, los representantes de China se espera que asistan a pesar de la escalada de las tensiones geopolíticas con Estados Unidos.
El Gobierno británico ha ha publicado el programa completo de la primera jornadaEl segundo día se darán a conocer todos los detalles.
Día 1: Navegar por las fronteras de la IA
El primer día se dedicó a tareas relacionadas con los riesgos y la seguridad en torno a los "modelos de frontera", término que ha venido a definir modelos fundacionales sofisticados como el GPT-4.
Sesión plenaria de apertura
La cumbre comienza con una sesión plenaria de apertura en la que intervendrán el Secretario de Estado del Ministerio de Ciencia, Innovación y Tecnología del Reino Unido y, a continuación, los países que lideran el desarrollo de la IA y el Frontier AI Taskforce del Reino Unido.
Mesas redondas
Una serie de sesiones de trabajo permitirá el diálogo multidisciplinar sobre diversas cuestiones críticas:
- Riesgos para la seguridad mundial por el mal uso de la IA en las fronteras: Evaluación de los problemas de seguridad derivados de los modelos de IA recientes y futuros, centrándose en la bioseguridad y la ciberseguridad.
- Avances impredecibles en la capacidad de la IA de frontera: Debate sobre las implicaciones de los rápidos saltos en las capacidades de la IA, la aparición de nuevos métodos de previsión y la trayectoria futura del desarrollo de la IA, incluidas las consideraciones sobre el código abierto.
- Posible pérdida de control sobre la IA avanzada: Contemplar escenarios en los que la IA supere la supervisión humana, los riesgos asociados y explorar herramientas de prevención y control.
- Integración social de la IA en las fronteras del conocimiento: Abordar los retos relacionados con el papel de la IA en las elecciones, los prejuicios, la delincuencia, la seguridad en línea y la desigualdad global, además de debatir las contramedidas existentes.
Mejorar la seguridad de la IA en las fronteras
Otra serie de mesas redondas se centrará en la mejora de la seguridad de la IA:
- Escalado responsable en los desarrolladores de IA: Debate sobre las mejores prácticas para la ampliación responsable de capacidades, la evaluación de riesgos, la gobernanza y la rendición de cuentas en el desarrollo de la IA en las fronteras del conocimiento.
- El papel de los responsables políticos nacionales en la IA: Debate sobre las medidas políticas para gestionar los riesgos de la IA, incluida la supervisión, la rendición de cuentas, la concesión de licencias y la gestión de modelos de IA de código abierto.
- Colaboración internacional en IA: Identificar las áreas en las que la cooperación mundial es esencial para mitigar los riesgos y aprovechar las oportunidades que presenta la IA de frontera.
- Contribución de la comunidad científica a la seguridad de la IA: Evaluación de las soluciones técnicas actuales para la seguridad de la IA, áreas de investigación urgentes y soluciones emergentes.
La jornada concluye con una mesa redonda sobre el aprovechamiento de la IA para revolucionar la educación de las generaciones venideras, seguida de las palabras de clausura del Secretario de Estado del Reino Unido.
Día 2: Modelar el futuro de la IA
El Primer Ministro Rishi Sunak dirigirá una selecta asamblea de representantes gubernamentales, líderes empresariales y expertos para intensificar los debates sobre la gestión de los riesgos de la tecnología de IA emergente.
En una sesión paralela, la Secretaria de Tecnología del Reino Unido, Michelle Donelan, volverá a reunirse con sus homólogos internacionales para concretar las líneas de actuación debatidas durante la cumbre.
La Cumbre contará con la presencia de altos directivos tecnológicos y políticos
A la cumbre asistirán altos ejecutivos de Silicon Valley, como Sam Altman, de OpenAI, Demis Hassabis, de Google Deepmind, y Dario Amodei, de Anthropic.
Otros asistentes destacados que se esperan en la cumbre son representantes de xAI de Elon Musk y los directores ejecutivos Alex Karp, Aidan Gomez y Emad Mostaque de las empresas de IA Palantir, Cohere y Stability, respectivamente.
Además, los responsables políticos de los gigantes tecnológicos Meta y Microsoft, Sir Nick Clegg y Brad Smith, y James Manyika, de Google, también representarán a sus respectivas empresas.
Para preparar la cumbre, las empresas participantes han estado anima a respaldar una declaraciónque se espera que firmen los líderes mundiales.
Se están llevando a cabo negociaciones en las que participan funcionarios de EE.UU., la UE, los países del G7 y China para ultimar la redacción de esta declaración. Se prevé que incluya una severa advertencia sobre los posibles "daños catastróficos" que podría causar la IA si no se controla.
También se pide a las empresas que revelen sus políticas detallando sus compromisos con el "desarrollo e implantación seguros de la IA", junto con sus opiniones sobre cómo la IA puede "abordar los problemas más urgentes e importantes para la humanidad."
Se espera que asista la vicepresidenta estadounidense Kamala Harris. Al parecer, el canciller alemán, Olaf Scholz, ha declinado la invitación, pero el presidente francés, Emmanuel Macron, y representantes de Es probable que China participe.
Aunque no se espera que la cumbre desemboque directamente en la creación de un nuevo organismo regulador de la IA o en leyes internacionales, sí aspira a ser un paso crucial hacia futuras normativas.
Un portavoz del Gobierno subrayó el enfoque colaborativo de la cumbre: "La Cumbre sobre Seguridad de la IA reunirá a un amplio abanico de asistentes, incluidos gobiernos internacionales, el mundo académico, la industria y la sociedad civil, como parte de un enfoque colaborativo para impulsar una acción internacional rápida y específica sobre el desarrollo seguro y responsable de la IA".
