Max Tegmark, professore del MIT, fisico e cofondatore del Future of Life Institute, ha espresso preoccupazione per il ritmo incessante dello sviluppo dell'IA.
Egli suggerisce che l'intensa concorrenza tra le imprese tecnologiche rende meno probabile una solida autoregolamentazione.
Nell'arco di un solo anno, attori importanti come OpenAI e Google hanno rilasciato almeno due generazioni di modelli di IA.
GPT-4 ha rappresentato un enorme miglioramento rispetto a GPT-3.5, battendo i suoi parametri di circa 5-10 volte.
All'inizio di quest'anno, Tegmark si è fatto promotore di una lettera aperta che chiedeva una pausa di sei mesi nello sviluppo di sistemi avanzati di IA.
La lettera ha ricevuto un sostegno massiccio da parte di leader del settore, politici e varie personalità pubbliche, con oltre 30.000 firmatari, tra cui Elon Musk e il cofondatore di Apple, Steve Wozniak.
La lettera descrive in modo chiaro i potenziali pericoli di uno sviluppo sfrenato dell'IA. Esortava i governi a intervenire se i principali attori dell'IA, come Google, OpenAI, Meta e Microsoft, non fossero riusciti a raggiungere un consenso su come sfruttare i benefici dell'IA mitigandone i rischi.
Il Centro per la sicurezza dell'intelligenza artificiale (CAIS) ha paragonato i rischi dell'intelligenza artificiale alla guerra nucleare.
In seguito a questa prima lettera, il CAIS ha rilasciato una dichiarazione sostenuta da numerosi leader tecnologici e accademici, che paragonava i rischi sociali posti dall'IA a quelli delle pandemie e della guerra nucleare.
Il La dichiarazione del CAIS dice, "Mitigare il rischio di estinzione dovuto all'IA dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare".
Tuttavia, nonostante la convinzione che l'autoregolamentazione sia necessaria fino all'entrata in vigore della normativa, l'industria tecnologica ha continuato a seguire lo stesso ritmo di avanzamento dell'IA.
Tegmark ha riflettuto sull'impatto della lettera e sulle ragioni del suo scarso successo nel fermare lo sviluppo dell'intelligenza artificiale, dichiarando al Guardian"Ho sentito che in privato molti dirigenti aziendali con cui ho parlato volevano [una pausa], ma erano intrappolati in questa corsa al ribasso gli uni contro gli altri. Quindi nessuna azienda può fare una pausa da sola".
Tuttavia, Tegmark ha osservato che i dibattiti relativi a una maggiore consapevolezza politica sulla sicurezza dell'IA si stanno intensificando, indicando le audizioni del Senato degli Stati Uniti, la prima di Chuck Schumer e la seconda di Tegmark. Forum di approfondimento sull'intelligenza artificialee di novembre vertice globale sulla sicurezza dell'intelligenza artificiale nel Regno Unito.
Guardando al futuro, Tegmark ha messo in guardia dal considerare lo sviluppo di una "intelligenza generale simile a quella di un dio" come una minaccia lontana, facendo riferimento ad alcuni nella comunità dell'IA che ritengono che la sua realizzazione potrebbe essere più vicina di quanto molti prevedano - in particolare, OpenAI.
Tegmark ha concluso sottolineando l'importanza degli standard di sicurezza nello sviluppo dell'IA e ha espresso preoccupazione per i modelli di IA open-source, come Llama 2 di Meta.
Facendo un parallelo con altre potenti tecnologie, ha ammonito: "La tecnologia pericolosa non dovrebbe essere open source, che si tratti di armi biologiche o di software".
