La decisione di licenziare Sam Altam potrebbe essere stata influenzata dagli effettivi ideali altruistici condivisi dai membri del consiglio di amministrazione di OpenAI. Il CEO ad interim Emmett Shear condivide alcuni dei loro timori sull'IA.
In termini generali, il concetto di Altruismo Efficace (EA) consiste nell'affrontare i problemi più urgenti del mondo e agire in modo logico per massimizzare i risultati positivi per l'umanità.
Se applicato allo spazio dell'IA, molti dei sostenitori dell'EA lanciano l'allarme sul ritmo incalzante dello sviluppo e sui potenziali rischi esistenziali per l'umanità.
Dall'altra parte dello spettro ci sono gli Acceleratori Effettivi (e/acc) che sostengono che l'IA non ci ucciderà tutti e che dovremmo muoverci più velocemente.
Almeno la metà degli attuali membri del consiglio di amministrazione di OpenAI sembra appartenere alla fazione EA e le loro paure nei confronti dell'IA potrebbero essere all'origine di questo fenomeno. sviluppi recenti presso l'azienda.
Helen Toner era a capo di Effective Altruism Melbourne e Tasha McCauley fa parte del consiglio di amministrazione di Effective Ventures, che gestisce il Centre For Effective Altruism.
Entra Emmett Shear
In un recente podcast Emmett Shear, il terzo CEO di OpenAI in quasi altrettanti giorni, ha espresso il suo sostegno alle opinioni dei profeti EA della sventura dell'IA.
Emmett Shear, il nuovo CEO di OpenAI, in un recente podcast.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 novembre 2023
Shear è anche un fan del ricercatore di IA Eliezer Yudkowsky, che ha scritto un romanzo di fan fiction su Harry Potter che sostiene il pensiero razionale e scientifico. Harry Potter e i Metodi della Razionalità (HPMOR) è popolare tra la comunità EA e viene utilizzato nelle sue attività di reclutamento.
Nel capitolo 104 del romanzo di 660.000 parole, Yudowsky scrive di un Cercatore di nome Emmett Shear che cade da una scopa durante una partita di Quidditch.
Se Shear condivide i punti di vista più estremi di Yudowsky sulla sicurezza dell'IA, possiamo aspettarci una maggiore frenata da parte di OpenAI.
All'inizio di quest'anno, leader tecnologici come Elon Musk ed Emad Mostaque si sono uniti a migliaia di persone per firmare una lettera aperta che chiedeva una pausa di sei mesi nello sviluppo dell'IA. Yudowsky ha rifiutato di firmare la lettera dicendo che "sottovaluta la gravità della situazione e chiede troppo poco per risolverla".
In una lettera pubblicato su Time Yudowsky ha affermato che lo sviluppo dell'IA dovrebbe fermarsi completamente, altrimenti "tutti gli abitanti della Terra moriranno".
Nella sua lettera, Yudowsky non ha usato mezzi termini: "Se qualcuno costruisce un'IA troppo potente, nelle condizioni attuali, mi aspetto che ogni singolo membro della specie umana e tutta la vita biologica sulla Terra muoia poco dopo".
Sappiamo che Shear è d'accordo con alcuni di questi sentimenti. Nella clip qui sopra Shear dice: "So che Eliezer pensa che siamo tutti condannati di sicuro. Comprendo la sua argomentazione sulla condanna. Comprendo la catena e la logica".
EA ci salverà e condannerà OpenAI?
Probabilmente la maggior parte delle persone ha sentito parlare per la prima volta di altruismo effettivo quando il fondatore di FTX Sam Bankman Fried, caduto in disgrazia, è entrato in scena. Egli sosteneva che i principi di EA erano alla base del suo desiderio di guadagnare molto denaro per fare molto bene.
Il suo esempio dimostra che le persone che hanno un forte desiderio di fare la differenza non sono immuni dal prendere decisioni molto stupide.
Se il consiglio di amministrazione di OpenAI continua a dare priorità ai principi dell'EA, è difficile capire come Sam Altman possa perseguire l'AGI e la redditività se e quando sarà riconfermato.
Se il consiglio moderasse le sue opinioni e ascoltasse i sostenitori dell'e/acc come l'informatico Yann LeCun, allora OpenAI potrebbe essere un progetto ancora valido.
Mark Zuckerberg ha notoriamente incoraggiato i suoi ingegneri a "muoversi velocemente e rompere le cose". Altman potrebbe condividere questo punto di vista sullo sviluppo dell'IA, ma l'attuale leadership di OpenAI chiaramente non lo fa.
