Den senaste tidens händelser på OpenAI har belyst ideologierna "effektiv altruism" och dess avläggare "långsiktighet".
Men viVad innebär dessa "filosofier"? Och hur påverkar de AI:s politik och styrning?
OpenAI grundades ursprungligen som en icke-vinstdrivande organisation. År 2019 blev det sedan en "capped" vinstdrivande organisation, definierad som ett "partnerskap mellan vår ursprungliga ideella organisation och en ny capped vinstdrivande organisation".
När bolaget väl visste vad det satt på kunde det skulle trots allt inte hålla sig borta från investerare och vinstdrivande verksamhet för alltid.
Sedan 2019 har den effektiva altruismens roll, som låg till grund för OpenAI:s uppdrag, försvunnit.
Vad är effektiv altruism?
Effektiv altruism är en modern filosofi som grundades för inte så länge sedan av akademiker vid Oxford University som William MacAskill och Toby Ord.
I ett nötskal handlar det om att maximera den positiva påverkan på planeten i en allmän mening, definierad som "att använda bevis och förnuft för att räkna ut hur man kan gynna andra så mycket som möjligt och vidta åtgärder utifrån detta".
Dess undergrupp, långsiktighet, fokuserar på att minska existentiella risker för att säkerställa framtida generationers välbefinnande. Detta föddes ur kritiken mot kortsiktiga, cykliska regeringar. Man menar att den nuvarande styrningen inte ger utrymme för den typ av systematiska och konsekventa åtgärder som vi behöver för att stödja vår planet.
OpenAI, som grundades med höga mål om att utveckla AI för mänsklighetens bästa, var en del av dessa principer.
Bolagets kommersiella expansion och stöd till investeringar, som $1 miljarder från Microsoft, skapade dock en konflikt mellan dessa altruistiska mål och praktiska affärsbehov.
Altruistisk ideologi på OpenAI
Denna konflikt mellan ideologier nådde en brytpunkt inom OpenAI.
På den ena sidan finns Silicon Valley, där teknokapitalism är ett begrepp och där omstörtande idéer stöds med massivt riskkapital.
På den andra sidan finns den långsammare och mer försiktiga strategi som har blivit de facto-ståndpunkten bland AI-teknikchefer. Vad annat kan de säga när de utsätts för nationella och internationella påtryckningar om att försiktigt moderera sina produkter?
För att AI ska kunna utvecklas måste det blidka dem som är rädda för det. Medan det finns omfattande debatt om AI verkligen är farligt, kvarstår det faktum att många människor är oroliga.
Denna dikotomi illustrerades av Altman, som samtidigt som han drev OpenAI mot att bli ett tekniskt kraftcentrum också varnade för de existentiella hot som avancerad AI utgör. Återigen, vilket val hade han?
För att lugna framhöll Altman hur OpenAI:s struktur skyddade företaget från att gå in på mer riskfyllda vägar, men hans återinsättning som VD sätter stopp för det. Altman återinsattes med våld, oavsett om du anser att det är en hjärtlig solidaritetshandling eller inte.
"På papperet hade styrelsen makten, det var så Sam Altman presenterade det", säger Toby Ord, en av grundarna av effektiv altruism och medlem i Center for the Governance of AI (CAIS).
Han fortsatte: "Istället verkar en mycket stor del av makten ligga hos Altman personligen, och de anställda och Microsoft."
Styrelsens dynamik och utmaningar
Att Altman avskedades av styrelseledamöter, varav några hade anknytning till rörelsen för effektiv altruism, hotar OpenAI:s förmåga att fortsätta marknadsföra sig som ett nytt företag med fokus på humanitära fördelar.
Styrelseledamöterna hävdade att Altman inte var "uppriktig i sin kommunikation", men de flesta anser att han inte tog säkerheten på allvar.
OpenAI:s nya styrelse, som tills vidare är bunden av samma regler som den gamla, kommer inte att göra samma motstånd mot Altman.
Lösningen på denna kris, med Altmans återkomst och ommöblering av styrelsen, lämnar obesvarade frågor om företagets framtida inriktning och dess grundläggande principer. OpenAI har släppts lös - Altman kommer inte att avlägsnas förrän han är färdig.
Det kommer dock att bli svårt för OpenAI att accelerera med mer riskfylld AI-utveckling enbart på grund av denna ommöblering av styrelsen. Om OpenAI är för optimistiska, de kan påskynda åtgärder mot dem. De är under noggrann inspektion av organisationer som FTC redan.
Hur kan företag harmonisera långsiktiga altruistiska filosofier med realiteterna i den tekniska och kommersiella utvecklingen?
Är de två kompatibla? Var de någonsin kompatibla?
