Beslutningen om å sparke Sam Altam kan ha vært påvirket av de effektive altruistiske idealene som OpenAIs styremedlemmer deler. Emmett Shear, midlertidig administrerende direktør, deler noen av deres frykt for kunstig intelligens.
I grove trekk går konseptet Effective Altruism (EA) ut på å ta tak i verdens mest presserende problemer og iverksette logiske tiltak for å maksimere positive resultater for menneskeheten.
Når det gjelder kunstig intelligens, er det mange av tilhengerne av EA som slår alarm om det halsbrekkende utviklingstempoet og den potensielle eksistensielle risikoen for menneskeheten.
På den andre siden av spekteret finner vi Effective Accelerationists (e/acc), som mener at AI ikke vil ta livet av oss alle, og at vi bør bevege oss raskere.
Minst halvparten av de nåværende styremedlemmene i OpenAI ser ut til å være helt på EA-siden, og frykten for kunstig intelligens kan ha ligget bak den siste utviklingen i selskapet.
Helen Toner var tidligere leder for Effective Altruism Melbourne, og Tasha McCauley sitter i styret i Effective Ventures, som driver Centre For Effective Altruism.
Gå inn i Emmett Shear
I en podcast nylig uttrykte Emmett Shear, OpenAIs tredje administrerende direktør på nesten like mange dager, støtte til EAs dommedagsprofeter.
Emmett Shear, den nye administrerende direktøren i OpenAI, i en podcast nylig.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20. november 2023
Shear er også en fan av AI-forskeren Eliezer Yudkowsky, som har skrevet en Harry Potter-fanfictionroman som tar til orde for rasjonell og vitenskapelig tenkning. Harry Potter and the Methods of Rationality (HPMOR) er populær blant EA-miljøet og brukes i rekrutteringsarbeidet.
I kapittel 104 i den 660 000 ord lange romanen skriver Yudowsky om en søker ved navn Emmett Shear som faller av en sopelime i en quidditch-kamp.
Hvis Shear deler Yudowskys mer ekstreme syn på AI-sikkerhet, kan vi forvente at OpenAI vil trekke mer i bremsene.
Tidligere i år skrev teknologiledere som Elon Musk og Emad Mostaque sammen med tusenvis av andre under på et åpent brev der de ba om en 6-måneders pause i utviklingen av kunstig intelligens. Yudowsky nektet å signere brevet, og sa at det "undervurderer alvoret i situasjonen og ber om for lite for å løse den".
I et brev publisert i Time Yudowsky sa at utviklingen av kunstig intelligens bør stoppe helt opp, ellers vil "bokstavelig talt alle på jorden dø".
I brevet var Yudowsky utvetydig i sitt syn: "Hvis noen bygger en for kraftig kunstig intelligens, forventer jeg at hvert eneste medlem av menneskearten og alt biologisk liv på jorden dør kort tid etter."
Vi vet at Shear er enig i noen av disse holdningene. I klippet over sier Shear: "Jeg vet at Eliezer mener at vi alle er dømt til undergang. Jeg kjøper undergangsargumentet hans. Jeg kjøper kjeden og logikken."
Vil EA redde oss og ødelegge OpenAI?
De fleste hørte nok først om effektiv altruisme da den vanærede FTX-grunnleggeren Sam Bankman Fried kom på banen. Han hevdet at EA-prinsippene lå bak hans ønske om å tjene mye penger for å gjøre mye godt.
Hans eksempel viser at mennesker som har et sterkt ønske om å gjøre en positiv forskjell, ikke er immune mot å ta svært dumme beslutninger.
Hvis OpenAI-styret fortsetter å prioritere EA-prinsippene, er det vanskelig å se hvordan Sam Altman skal kunne satse på AGI og lønnsomhet hvis og når han blir utnevnt på nytt.
Hvis styret modererer sine synspunkter og lytter til e/acc-forkjempere som informatiker Yann LeCunkan OpenAI fortsatt være et levedyktig prosjekt.
Mark Zuckerberg oppmuntret ingeniørene sine til å "bevege seg raskt og ødelegge ting". Altman deler kanskje dette synet på AI-utvikling, men det gjør åpenbart ikke den nåværende OpenAI-ledelsen.
