L'amministratore delegato di OpenAI, Sam Altman, ha suscitato scalpore nella comunità tecnologica quando ha annunciato che l'intelligenza artificiale generale (AGI) era stata "raggiunta internamente", salvo poi affermare che stava "solo facendo un meme".
Sam Altman non è certo un personaggio controverso come Elon Musk, ma è diventato una figura piuttosto controversa per una battuta scherzosa che alcuni ritengono inappropriata. Dopo tutto, potrebbe essere considerato uno degli individui più influenti nel campo della tecnologia.
La battuta di Altman è stata fatta tramite un post sul forum Reddit r/singularity, dove ha dichiarato: "L'AGI è stata raggiunta internamente".
AGI, acronimo di Intelligenza Artificiale Generale, si riferisce a sistemi di intelligenza artificiale che sono paralleli o addirittura superiori alle capacità cognitive umane. OpenAI si definisce ora uno sviluppatore di AGI e intende essere il primo a "sfondare" in questo paradigma.
Altman ha subito modificato la sua affermazione stravagante, aggiungendo un'avvertenza: "Ovviamente questo è solo un meme, non avete paura, quando l'AGI sarà raggiunta non sarà annunciata con un commento su Reddit".
Molti si sono rivolti a Reddit e X per accusare Altman di trollaggio. - forse un po' stridente quando le persone sono sinceramente preoccupate per il futuro dell'IA.
EDIT: "l'agi è stata raggiunta internamente (EDIT ovviamente questo è solo un meme, non avete il coraggio! quando l'agi sarà raggiunta non sarà annunciata con un commento su reddit...)" pic.twitter.com/nrEHnvuEcS
- Smoke-away (@SmokeAwayyy) 26 settembre 2023
La "singolarità"
Il forum, r/singolaritàIl libro si occupa principalmente di discussioni sulla singolarità tecnologica, ovvero il momento in cui l'intelligenza dei computer potrebbe potenzialmente eclissare l'intelligenza umana, portando a cambiamenti imprevedibili e irreversibili nel mondo come lo conosciamo.
Lo sfondo di questo commento affonda le sue radici in un ipotetico scenario scritto dal filosofo dell'Università di Oxford Nick Bostrom nel suo influente libro del 2014, "Superintelligenza: Percorsi, pericoli, strategie.”
Bostrom descrive i rischi esistenziali che le IA ultra avanzate potrebbero comportare. Uno dei suoi esperimenti di pensiero, noto come Paperclip Maximiser, dipinge l'immagine di un'IA il cui intento innocente - produrre il maggior numero possibile di graffette - potrebbe inavvertitamente portare alla rovina dell'umanità.
Spiega che l'IA considererebbe i corpi umani come preziose fonti di atomi per la produzione di graffette.
In un'ironica allusione a questo esperimento di pensiero, dopo il post di Altman, il ricercatore di OpenAI Will Depue ha condiviso su Twitter un'immagine renderizzata dall'AI che mostra "gli uffici di OpenAI traboccanti di graffette!".
BREAKING NEWS: Gli uffici di OpenAI sono stati visti traboccare di graffette! pic.twitter.com/rnV4dLi0cU
- will depue (@willdepue) 26 settembre 2023
Bostrom sostiene inoltre che "l'IA si renderà conto rapidamente che sarebbe molto meglio se non ci fossero esseri umani, perché gli esseri umani potrebbero decidere di spegnerla".
Si tratta di una trama fantascientifica familiare: le macchine di Matrix hanno iniziato a prelevare gli esseri umani a scopo energetico, per esempio.
Come dice Morpheus, "il corpo umano genera più bioelettricità di una batteria da 120 volt e oltre 25.000 BTU di calore corporeo". Bostrum teorizza che l'intelligenza artificiale potrebbe giungere a tali conclusioni se provocata negli scenari giusti.
L'umanità sostituita da graffette sarebbe un destino a dir poco bizzarro per la razza umana.
