De seneste begivenheder på OpenAI har sat fokus på ideologierne "effektiv altruisme" og dens aflægger, "langsigtethed".
Men viHvad betyder disse 'filosofier' overhovedet? Og hvordan påvirker de AI-politik og -styring?
OpenAI blev oprindeligt grundlagt som en non-profit organisation. I 2019 blev det så en "capped" for-profit, defineret som et "partnerskab mellem vores oprindelige nonprofit og en ny capped profit-arm".
Da virksomheden først vidste, hvad den sad på, kunne den ville trods alt ikke holde sig væk fra investorer og indtjening for evigt.
Siden 2019 er rollen som effektiv altruisme, der understøttede OpenAI's mission, forsvundet.
Hvad er effektiv altruisme?
Effektiv altruisme er en moderne filosofi, som blev grundlagt for ikke så længe siden af akademikere fra Oxford University som William MacAskill og Toby Ord.
Kort sagt forsøger den at maksimere den positive indvirkning på planeten i generel forstand, defineret som "at bruge evidens og fornuft til at finde ud af, hvordan man kan gavne andre så meget som muligt, og handle på det grundlag."
Dens undergruppe, langsigtethed, fokuserer på at reducere eksistentielle risici for at sikre fremtidige generationers velbefindende. Den er opstået på baggrund af kritik af kortsigtede, cykliske regeringer. Den hævder, at den nuværende regeringsførelse ikke giver plads til den type systematisk, konsekvent handling, vi har brug for til at støtte vores planet.
OpenAI, der blev grundlagt med høje mål om at udvikle AI til gavn for menneskeheden, var i overensstemmelse med disse principper.
Men virksomhedens kommercielle ekspansion og støtten til investeringer, som f.eks. $1 milliard fra Microsoft, skabte en konflikt mellem disse altruistiske mål og praktiske forretningsbehov.
Altruistisk ideologi hos OpenAI
Dette sammenstød mellem ideologier nåede et Knækpunktet inden for OpenAI.
På den ene side er der Silicon Valley-teknokapitalismen, som støtter disruptive ideer med massiv venturekapital.
På den anden side er der den langsommere og mere forsigtige tilgang, som er blevet de facto-holdningen blandt AI-tech-chefer. Hvad kan de ellers sige i lyset af det nationale og internationale pres for at moderere deres produkter?
Hvis AI skal udvikle sig, skal den berolige dem, der er bange for den. Mens der er betydelig debat om, hvorvidt AI virkelig er farlig, er pointen stadig, at mange mennesker er bekymrede.
Denne dikotomi blev indbegrebet af Altman, som, samtidig med at han skubbede OpenAI i retning af at blive et teknologisk kraftcenter, også advarede om de eksistentielle trusler, som avanceret AI udgør. Igen, hvilket valg havde han?
For at berolige fremhævede Altman, hvordan OpenAI's struktur beskyttede virksomheden mod at betræde mere risikable stier, men hans genindsættelse som CEO sætter en stopper for det. Altman blev genindsat med magt, uanset om man betragter det som en hjertelig solidaritetshandling eller ej.
"På papiret havde bestyrelsen magten, det var sådan, Sam Altman præsenterede det," siger Toby Ord, en af grundlæggerne af effektiv altruisme og medlem af Center for the Governance of AI (CAIS).
Han fortsatte: "I stedet ser det ud til, at en meget stor del af magten ligger hos Altman personligt og hos medarbejderne og Microsoft."
Bestyrelsens dynamik og udfordringer
Afskedigelsen af Altman fra bestyrelsesmedlemmer, hvoraf nogle havde forbindelse til bevægelsen for effektiv altruisme, truer OpenAI's evne til fortsat at markedsføre sig som en ny virksomhed med fokus på humanitære fordele.
Bestyrelsesmedlemmerne påstod, at Altman ikke var "ærlig i sin kommunikation", men de fleste mener, at han ikke tog sikkerheden alvorligt.
Selv om OpenAI's nye bestyrelse indtil videre er bundet af de samme regler som den gamle, vil den ikke yde samme modstand mod Altman.
Løsningen på denne krise, med Altmans tilbagevenden og omrokering af bestyrelsen, efterlader ubesvarede spørgsmål om virksomhedens fremtidige retning og dens grundlæggende principper. OpenAI er blevet sluppet løs - Altman vil ikke blive fjernet, før han er færdig.
Men det bliver svært for OpenAI at sætte fart på mere risikable AI-udviklinger alene på grund af denne omrokering i bestyrelsen. Hvis Hvis OpenAI er for optimistisk, vil de måske fremskynde en aktion mod dem. De er under nøje kontrol af organisationer som FTC allerede.
Hvordan kan virksomheder harmonisere langsigtede altruistiske filosofier med realiteterne i den teknologiske og kommercielle udvikling?
Er de to kompatible? Har de nogensinde været forenelige?
