Il governo britannico ha pubblicato il rapporto "Capabilities and risks from frontier AI" (Capacità e rischi dell'IA di frontiera) che costituirà la base di discussione del prossimo AI Safety Summit.
Il rapporto fornisce una panoramica delle capacità attuali e future e dei rischi associati ai modelli di frontiera. I modelli di frontiera sono modelli di intelligenza artificiale generici altamente capaci, in grado di svolgere un'ampia gamma di compiti, come GPT-4 o Llama 2.
Prima di affrontare i rischi attuali e futuri, il rapporto riconosce che l'IA ha il potenziale per migliorare le nostre vite in molti modi. Nella sua introduzione, il rapporto afferma che grazie all'IA "ci troviamo nel bel mezzo di una rivoluzione tecnologica che modificherà radicalmente il modo in cui viviamo, lavoriamo e ci relazioniamo gli uni con gli altri".
Sono i rischi e gli scenari apocalittici delineati nel rapporto a costituire una lettura particolarmente interessante.
I rischi futuri dell'IA
Il rapporto osserva che "la complessità dei domini aperti rende difficile progettare sistemi sicuri o valutare in modo esaustivo tutti i casi d'uso a valle". In pratica, si dice che l'IA è uno strumento simile a una penna: si può farla funzionare bene, ma non si può impedire che qualcuno la usi per scrivere cose cattive.
I conseguenti rischi derivanti dalla natura dual-use dell'IA riempiono decine di pagine del rapporto e fanno pensare a cosa il vertice raggiungerà in 2 giorni.
Un rischio notevole sollevato nel rapporto è che le future IA perseguano attivamente l'autonomia. Il rapporto afferma: "La perdita di controllo potrebbe essere accelerata se i sistemi di IA intraprendono azioni per aumentare la propria influenza e ridurre il controllo umano".
Ha osservato che l'IA del futuro potrebbe sviluppare sia la capacità che la disposizione a fare proprio questo.
Pur riconoscendo che alcuni esperti ritengono che il i rischi dell'IA sono stati sopravvalutatiMa il rapporto non esclude le minacce più esistenziali.
L'intelligenza artificiale potrebbe far progredire rapidamente l'assistenza sanitaria, la scienza e l'energia, ma dobbiamo sfruttarla in modo sicuro.
Il governo ha pubblicato un documento di discussione sui rischi e le capacità dell'IA di frontiera:https://t.co/YIjyZsgcbe
Leggete un riassunto qui sotto 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Dipartimento per la scienza, l'innovazione e la tecnologia (@SciTechgovuk) 26 ottobre 2023
Scenari apocalittici dell'intelligenza artificiale
Il rapporto afferma: "Data la significativa incertezza nel prevedere gli sviluppi dell'IA, non ci sono prove sufficienti per escludere che i futuri sistemi di IA di frontiera altamente capaci, se disallineati o non adeguatamente controllati, possano rappresentare una minaccia esistenziale".
Uno dei modi in cui ciò potrebbe accadere è se "con l'aumento delle capacità dell'IA, gli esseri umani concedono all'IA un maggiore controllo sui sistemi critici e alla fine diventano irreversibilmente dipendenti da sistemi che non comprendono appieno".
Se le luci si spengono e l'intelligenza artificiale è l'unica a sapere dov'è l'interruttore, potremmo rimanere al buio per un po' di tempo.
In uno scenario futuristico, il rapporto descrive quello che definisce un "Far West dell'intelligenza artificiale". In questo scenario, ambientato nel 2030, "le autorità stanno lottando con il volume e la diversità degli abusi. L'attenzione rivolta ad affrontare gli impatti immediati di questa crisi ha reso difficile raggiungere un consenso globale su come gestire i problemi a lungo termine".
Questo non sembra il futuro, ma ciò che sta accadendo ora. È improbabile che un vertice di due giorni riesca a scalfire i rischi allarmanti descritti in questo rapporto.
L'AI Safety Summit si basa sull'idea che l'intelligenza artificiale "sicura" sia possibile se ci impegniamo abbastanza. Ma è davvero così?
Se un'AGI è già in circolazione, potrebbe facilmente leggere le preoccupazioni delineate in questo rapporto e poi nascondere la propria capacità o intenzione di mettere in atto questi scenari. Finché non sarà troppo tardi.
