Durante il secondo giorno dell'AI Safety Summit, il primo ministro britannico Rishi Sunak ha cercato di ribadire che gli sviluppatori di IA consentiranno la valutazione governativa degli strumenti prima del loro lancio sul mercato.
Sunak ha affermato che i risultati del vertice "faranno pendere la bilancia a favore dell'umanità" e che "il nostro lavoro sarà più facile". ha rivelato che i leader del settore, tra cui Meta, Google Deep Mind e OpenAI, hanno acconsentito alla sperimentazione preliminare delle loro innovazioni di IA - cosa che avevano già dichiarato di fare in un recente quadro volontario sviluppato dagli Stati Uniti.
Tra gli impegni assunti durante il secondo giorno del Vertice c'è l'istituzione di un organo di esperti denominato Istituto di sicurezza AI.
LIVE: dichiarazione del Primo Ministro Rishi Sunak dal Summit sulla sicurezza dell'intelligenza artificiale a Bletchley Park https://t.co/YLn6O8FO7f
- Primo Ministro del Regno Unito (@10DowningStreet) 2 novembre 2023
Un altro titolo della seconda giornata è la presentazione del prossimo rapporto "State of AI Science", condotto dal "padrino dell'IA" Yoshio Bengio.
"Questa idea si ispira al modo in cui il Gruppo intergovernativo di esperti sul cambiamento climatico è stato istituito per raggiungere un consenso scientifico internazionale", ha detto Sunak.
Il quadro concordato sostiene la necessità di valutazioni complete della sicurezza dei modelli di IA prima e dopo la loro messa in funzione, enfatizzando gli sforzi di sperimentazione collaborativa che coinvolgono i governi, in particolare nelle aree che riguardano la sicurezza nazionale e il benessere della società.
L'impegno dell'industria per questa causa è stato sottolineato dalle osservazioni di Demis Hassabis, CEO di Google DeepMind, che ha dichiarato: "L'IA può aiutare a risolvere alcune delle sfide più critiche del nostro tempo, dalla cura delle malattie alla soluzione della crisi climatica. Ma presenterà anche nuove sfide per il mondo e dobbiamo garantire che la tecnologia sia costruita e utilizzata in modo sicuro. Per ottenere questo risultato è necessario uno sforzo collettivo da parte dei governi, dell'industria e della società civile per informare e sviluppare solidi test e valutazioni di sicurezza. Sono entusiasta che il Regno Unito abbia lanciato l'AI Safety Institute per accelerare i progressi in questo lavoro vitale".
La Cina non partecipa a queste iniziative multilaterali. Tuttavia, questo patto raccoglie il sostegno dell'UE e di Paesi leader come Stati Uniti, Regno Unito, Giappone, Francia e Germania ed è sostenuto da colossi tecnologici come Google, Amazon, Microsoft e Meta.
Sebbene il premier abbia affrontato le domande sulla natura volontaria degli accordi e sull'assenza di una legislazione vincolante, ha sostenuto che l'IA richiede un'azione rapida, suggerendo che i "requisiti vincolanti" per le imprese di IA potrebbero essere inevitabili.
Insieme alla giornata di ieri Dichiarazione di Bletchley ParkIl Vertice ha tentato di galvanizzare l'azione intorno all'IA, anche se i critici lo hanno in gran parte liquidato come un evento simbolico piuttosto che fattibile.
Prima di andare in diretta con Sunak, Musk ha postato su X una vignetta beffarda di figure che rappresentano le potenze globali che discutono dei rischi dell'IA e contemporaneamente si sfregano le mani per il potenziale di dominio.
Il presidente non è certo polemico, ma bisogna dire che si tratta di una battuta spiritosa per un vertice che è intrinsecamente basato sulle promesse. Sarebbe riduttivo affermare che ciò significa che non ha ottenuto nulla, ma la vera sostanza dei colloqui rimane ipotetica.
Sigh pic.twitter.com/jDDTkewbDL
- Elon Musk (@elonmusk) 2 novembre 2023
A conclusione del vertice, il governo britannico ha rilasciato con orgoglio la dichiarazione di Bletchley, firmata da 28 governi, tra cui Regno Unito, Stati Uniti e Unione Europea, che promette un approccio collaborativo agli standard di sicurezza dell'IA, evocando gli accordi sulla crisi climatica.
Nel complesso, gli sforzi diplomatici di Rishi Sunak al vertice sull'IA sono stati riconosciuti come un successo, che ha fatto del Regno Unito un pioniere nel perseguire la sicurezza e la regolamentazione dell'IA a livello globale, ponendo le basi per l'organizzazione del prossimo vertice in Francia nel 2024.
Dopo aver insistito per 9 anni per un vertice internazionale sulla sicurezza dell'IA, sono stata davvero commossa di poter partecipare alla sua realizzazione! @RishiSunak ha avuto più successo di quanto mi aspettassi, con una notevole unità tra 1) Stati Uniti e Cina, 2) coloro che si concentrano sui danni attuali rispetto al rischio esistenziale e 3)... https://t.co/KAQ4HCIPQo
- Max Tegmark (@tegmark) 2 novembre 2023
Secondo giorno del Summit
Il secondo giorno del Summit è stato coronato da un dibattito tra Sunak e Musk. Ecco alcuni degli eventi principali, dall'ultimo della giornata (primo) al primo (ultimo).
Guarda lo streaming di 50 minuti qui.
Discussione sull'IA con @RishiSunak
pic.twitter.com/f5FHGQzE4r- Elon Musk (@elonmusk) 2 novembre 2023
- Musk ha sostenuto che un "interruttore di spegnimento" fisico potrebbe spegnere l'intelligenza artificiale in caso di problemi catastrofici. "E se un giorno ricevessero un aggiornamento del software e improvvisamente non fossero più così amichevoli?". Musk ha detto a Sunak.
- Quando Sunak chiede perché Musk abbia recentemente cambiato il sistema di moderazione dei contenuti di Twitter, Musk sostiene che tutti i moderatori di contenuti hanno pregiudizi. Si chiede: "Come possiamo avere un approccio alla verità basato sul consenso?" e afferma che il suo obiettivo è arrivare a una "verità più pura". Musk sostiene che il suo nuovo sistema di moderazione fornisce semplicemente più contesto e trasparenza, affermando: "Tutto è open source. Si possono vedere tutti i dati e si può vedere se c'è stato un gioco del sistema, suggerire miglioramenti... La verità paga".
- Musk prevede che in futuro i robot AI potrebbero diventare veri amici degli esseri umani. Sostiene che avranno una memoria dettagliata e una conoscenza approfondita, affermando: "Potreste parlargli ogni giorno, e avrete davvero un grande amico. Sarà una cosa reale.
- Musk fa l'audace previsione che l'IA progredirà fino al punto in cui "non sarà più necessario alcun lavoro" per gli esseri umani. Afferma: "Si può avere un lavoro se lo si vuole per la soddisfazione personale, l'IA può fare tutto". Musk sostiene che questo potrebbe essere positivo o negativo, ponendo delle sfide per trovare un significato e uno scopo. Ma sostiene anche che potrebbe fornire un "reddito elevato universale" e creare i migliori tutor. Nel complesso, vede molti benefici per l'istruzione, la produttività e l'automazione di lavori pericolosi.
- Quando Sunak fa notare di aver affrontato le critiche per aver invitato la Cina, Musk elogia la decisione definendola "coraggiosa". Musk sostiene che la collaborazione con la Cina sulla sicurezza dell'IA è essenziale e afferma che la loro partecipazione è un segnale molto positivo.
- Musk dice a Sunak di ritenere che i governi debbano agire come "arbitri" per garantire la sicurezza pubblica con l'IA, consentendo al contempo l'innovazione. Ribadisce la sua opinione che, nel complesso, l'IA sarà "una forza per il bene". Ciò è in contrasto con quanto Musk ha affermato in passato, a dimostrazione delle sue opinioni ondivaghe sull'IA.
- Prima della loro conversazione, Musk esprime ottimismo sul potenziale dell'IA, ma avverte che potrebbe comportare dei rischi, usando l'analogia del "problema del genio magico", in cui i desideri spesso vanno male
- Durante la conferenza stampa, Sunak ha difeso le misure che i governi stanno adottando per affrontare i rischi legati alla sicurezza dell'IA, affermando che stanno facendo la "cosa giusta e responsabile" per proteggere il pubblico, anche se i rischi sono ancora incerti.
- Secondo un nuovo sondaggio, solo 15% delle persone hanno fiducia nella capacità del governo britannico di regolamentare efficacemente l'IA. 29% non esprimono alcuna fiducia.
- Alla domanda se l'IA possa rappresentare una minaccia esistenziale, Sunak risponde che è plausibile che possa comportare rischi della portata di una guerra nucleare o di una pandemia. Sostiene che i leader hanno quindi il dovere di adottare misure di protezione.
- Il Segretario alla Scienza Donelan afferma che il rischio di IA che la preoccupa maggiormente è uno "scenario Terminator" in cui le macchine diventano incontrollabili. A suo avviso, si tratta di una probabilità minore ma di un impatto maggiore.
Ulteriori analisi del Vertice arriveranno nei giorni successivi. Nel complesso, l'impressione è che si tratti di un evento simbolicamente importante e con un enorme potenziale.
Ma il potenziale non si trasforma facilmente in legislazione e, in ultima analisi, in azione. Solo il tempo ce lo dirà su questo fronte.
