L'AI Safety Summit del Regno Unito, che si terrà l'1 e il 2 novembre 2023, ha svelato il programma completo della prima giornata.
Con l'obiettivo di dare forma agli approcci per lo sviluppo di un'IA sicura, l'evento promette di riunire i governi internazionali, le principali aziende di IA e i maggiori esperti di ricerca.
In particolare, i rappresentanti della Cina sono prevista la partecipazione nonostante l'escalation delle tensioni geopolitiche con gli Stati Uniti.
Il governo britannico ha ha reso noto il programma completo del primo giornoI dettagli sulla seconda giornata non sono ancora stati resi noti.
Giorno 1: Navigare nell'IA di frontiera
Il primo giorno è caratterizzato da compiti che riguardano i rischi e la sicurezza dei "modelli di frontiera", un termine che è arrivato a definire modelli sofisticati e fondamentali come il GPT-4.
Plenaria di apertura
Il vertice inizia con una plenaria di apertura in cui interviene il Segretario di Stato del Dipartimento per la Scienza, l'Innovazione e la Tecnologia del Regno Unito, seguito dai contributi delle nazioni leader nello sviluppo dell'IA e della Frontier AI Taskforce del Regno Unito.
Tavola rotonda
Una serie di sessioni di approfondimento consentirà un dialogo multidisciplinare su diverse questioni critiche:
- Rischi per la sicurezza globale derivanti dall'uso improprio dell'IA di frontiera: Valutazione dei problemi di sicurezza derivanti dai modelli di IA di frontiera recenti e futuri, con particolare attenzione alla biosicurezza e alla cybersicurezza.
- Progressi imprevedibili nelle capacità di IA di frontiera: Discute le implicazioni dei rapidi progressi delle capacità dell'IA, l'avvento di nuovi metodi di previsione e la traiettoria futura dello sviluppo dell'IA, comprese le considerazioni sull'open-source.
- Potenziale perdita di controllo sull'IA avanzata: Contemplare gli scenari in cui l'IA supera la supervisione umana, i rischi associati ed esplorare gli strumenti di prevenzione e monitoraggio.
- Integrazione sociale dell'IA di frontiera: Affrontare le sfide legate al ruolo dell'IA nelle elezioni, ai pregiudizi, alla criminalità, alla sicurezza online e alla disuguaglianza globale, oltre a discutere le contromisure esistenti.
Migliorare la sicurezza dell'IA di frontiera
Un'altra serie di tavole rotonde si concentrerà sul miglioramento della sicurezza dell'IA:
- Scalata responsabile presso gli sviluppatori di IA: Dibattito sulle migliori pratiche per la scalata responsabile delle capacità, la valutazione del rischio, la governance e la responsabilità nello sviluppo dell'IA di frontiera.
- Il ruolo dei politici nazionali nell'IA: Discutere le misure politiche per gestire i rischi dell'IA, tra cui il monitoraggio, la responsabilità, le licenze e la gestione dei modelli di IA open-source.
- Collaborazione internazionale sull'IA: Identificare le aree in cui la cooperazione globale è essenziale per mitigare i rischi e cogliere le opportunità presentate dall'IA di frontiera.
- Il contributo della comunità scientifica alla sicurezza dell'IA: Valutazione delle attuali soluzioni tecniche per la sicurezza dell'IA, delle aree di ricerca urgenti e delle soluzioni emergenti.
La giornata si conclude con una tavola rotonda sull'utilizzo dell'IA per rivoluzionare l'istruzione delle prossime generazioni, seguita dalle osservazioni conclusive del Segretario di Stato del Regno Unito.
Giorno 2: Dare forma al futuro dell'IA
Il Primo Ministro Rishi Sunak guiderà un'assemblea selezionata di rappresentanti del governo, leader aziendali ed esperti per intensificare le discussioni sulla gestione dei rischi emergenti della tecnologia AI.
In una sessione parallela, il Segretario alla Tecnologia del Regno Unito, Michelle Donelan, si riunirà nuovamente con le controparti internazionali per consolidare la linea d'azione discussa durante il vertice.
Al vertice parteciperanno i più importanti leader tecnologici e politici
Al summit parteciperanno i massimi dirigenti della Silicon Valley, tra cui Sam Altman di OpenAI, Demis Hassabis di Google Deepmind e Dario Amodei di Anthropic.
Tra gli altri partecipanti di rilievo attesi al summit ci sono i rappresentanti della xAI di Elon Musk e gli amministratori delegati Alex Karp, Aidan Gomez ed Emad Mostaque delle imprese di AI Palantir, Cohere e Stability, rispettivamente.
Inoltre, i responsabili politici dei giganti tecnologici Meta e Microsoft, Sir Nick Clegg e Brad Smith, e James Manyika di Google rappresenteranno le rispettive aziende.
In preparazione al vertice, le aziende partecipanti hanno incoraggiati a sottoscrivere una dichiarazioneche i leader mondiali dovrebbero firmare durante l'evento.
Sono in corso trattative che coinvolgono funzionari degli Stati Uniti, dell'Unione Europea, dei Paesi del G7 e della Cina per finalizzare la formulazione di questa dichiarazione. Si prevede che includerà un severo avvertimento sui potenziali "danni catastrofici" che l'IA potrebbe infliggere se lasciata senza controllo.
Alle aziende viene inoltre richiesto di divulgare le loro politiche che descrivono in dettaglio gli impegni per "lo sviluppo e l'impiego sicuro dell'IA", insieme alle loro opinioni su come l'IA possa "affrontare i problemi più urgenti e importanti per l'umanità".
È prevista la partecipazione della vicepresidente degli Stati Uniti Kamala Harris. Il cancelliere tedesco Olaf Scholz avrebbe declinato l'invito, ma il presidente francese Emmanuel Macron e i rappresentanti di È probabile che la Cina partecipi.
Sebbene non si preveda che il vertice porti direttamente alla creazione di un nuovo organismo di regolamentazione dell'IA o di leggi internazionali, esso mira a rappresentare un passo fondamentale verso le future regolamentazioni.
Un portavoce del governo ha sottolineato l'approccio collaborativo del vertice, affermando: "Il vertice sulla sicurezza dell'IA riunirà un'ampia gamma di partecipanti, tra cui governi internazionali, mondo accademico, industria e società civile, nell'ambito di un approccio collaborativo volto a promuovere un'azione internazionale rapida e mirata sullo sviluppo sicuro e responsabile dell'IA".
