Beslutningen om at fyre Sam Altam kan have været påvirket af de effektive altruistiske idealer, som OpenAI's bestyrelsesmedlemmer deler. Den midlertidige CEO Emmett Shear deler nogle af deres bekymringer om AI.
Begrebet effektiv altruisme (EA) går i store træk ud på at tage fat på verdens mest presserende problemer og handle logisk for at maksimere de positive resultater for menneskeheden.
Når det gælder AI-området, slår mange af fortalerne for EA alarm over det hæsblæsende udviklingstempo og de potentielle eksistentielle risici for menneskeheden.
På den anden side af spektret står de effektive accelerationister (e/acc), som siger, at AI ikke vil slå os alle ihjel, og at vi bør bevæge os hurtigere.
Mindst halvdelen af de nuværende OpenAI-bestyrelsesmedlemmer ser ud til at være helt på EA's side, og deres AI-frygt kan have ligget bag Den seneste udvikling i virksomheden.
Helen Toner var tidligere leder af Effective Altruism Melbourne, og Tasha McCauley sidder i bestyrelsen for Effective Ventures, som driver Centre For Effective Altruism.
Indtast Emmett Shear
I en nylig podcast udtrykte Emmett Shear, OpenAI's tredje CEO på næsten lige så mange dage, støtte til synspunkterne hos EA's AI-dommedagsprofeter.
Emmett Shear, den nye CEO for OpenAI, i en podcast for nylig.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20. november 2023
Shear er også fan af AI-forskeren Eliezer Yudkowsky, som har skrevet en Harry Potter-fanfiction-roman, der slår et slag for rationel og videnskabelig tænkning. Harry Potter and the Methods of Rationality (HPMOR) er populær blandt EA-miljøet og bruges i rekrutteringsarbejdet.
I kapitel 104 i den 660.000 ord lange roman skriver Yudowsky om en søger ved navn Emmett Shear, der falder af et kosteskaft i en Quidditch-kamp.
Hvis Shear deler de mere ekstreme synspunkter, som Yudowsky har om AI-sikkerhed, kan vi forvente, at OpenAI træder mere på bremsen.
Tidligere i år skrev teknologiledere som Elon Musk og Emad Mostaque sammen med tusindvis af andre under på et åbent brev, der opfordrede til en 6-måneders pause i udviklingen af kunstig intelligens. Yudowsky nægtede at underskrive brevet og sagde, at det "undervurderer situationens alvor og beder om for lidt for at løse den."
I et brev udgivet i Time Yudowsky sagde, at AI-udviklingen bør stoppes helt, ellers "vil alle på jorden bogstaveligt talt dø".
I sit brev var Yudowsky utvetydig omkring sine synspunkter og sagde: "Hvis nogen bygger en for stærk AI under de nuværende forhold, forventer jeg, at hvert eneste medlem af den menneskelige art og alt biologisk liv på jorden dør kort tid efter."
Vi ved, at Shear er enig i nogle af disse følelser. I klippet ovenfor siger Shear: "Jeg ved, at Eliezer mener, at vi alle helt sikkert er dødsdømte. Jeg køber hans undergangsargument. Jeg køber kæden og logikken."
Vil EA redde os og ødelægge OpenAI?
De fleste mennesker hørte nok første gang om effektiv altruisme, da den vanærede FTX-stifter Sam Bankman Fried kom på banen. Han hævdede, at EA-principperne lå bag hans ønske om at tjene en masse penge for at gøre en masse godt.
Hans eksempel viser, at mennesker, der har et stærkt ønske om at gøre en positiv forskel, ikke er immune over for at træffe meget dumme beslutninger.
Hvis OpenAI's bestyrelse fortsætter med at prioritere EA-principperne, er det svært at se, hvordan Sam Altman kan forfølge AGI og rentabilitet, hvis og når han bliver genudnævnt.
Hvis bestyrelsen modererer sine synspunkter og lytter til e/acc-fortalere som datalog Yann LeCunså er OpenAI måske stadig et levedygtigt projekt.
Mark Zuckerberg opfordrede som bekendt sine ingeniører til at "bevæge sig hurtigt og ødelægge ting". Altman deler måske det syn på AI-udvikling, men det gør den nuværende OpenAI-ledelse tydeligvis ikke.
