Sam Altman og OpenAI-sagaen: Hva skjedde og hvorfor?

Den 17. november 2023 kunngjorde OpenAIs styre at administrerende direktør Sam Altman var blitt avskjediget, og at president Greg Brockman var blitt fjernet fra styret. Bare fire dager senere ble Altman gjeninnsatt i stillingen sin. 

Da Altman fikk sparken, ble det ifølge en Blogginnlegg fra OpenAIAltman hadde ikke værtåpenhjertig" med styretog kommunikasjonen hans var ikke tilstrekkelig åpen.

I kaoset som oppstod, skulle Altman og Brockman begynne i et nytt forskningsteam hos Microsoft. De ansatte gjorde opprør mot OpenAIs styre, og de aller fleste erklærte at de ville slutte hvis ikke styret omgjorde beslutningen.

Twitchs medgrunnlegger Emmet Shear ble administrerende direktør i noen få dager, før Altman, ved hjelp av en kollektiv aksjon, ble gjeninnsatt som administrerende direktør.

Det er sannsynligvis den mest ekstraordinære hendelsesrekken i Silicon Valleys historie når det gjelder selskapsstyring.

Sam Altmans bakgrunn hos OpenAI

Altman ble født i Chicago i 1985 og viste tidlig en enorm interesse for teknologi. Allerede som åtteåring programmerte og demonterte han datamaskiner. I 2015 grunnla Altman OpenAI sammen med andre teknologibosser som Elon Musk. 

Før han begynte i OpenAI, var Altman president for Y Combinator, en fremtredende inkubator for nystartede teknologibedrifter, fra 2014. Under hans ledelse opplevde Y Combinator en flom av søknader fra oppstartsbedrifter, til sammen 40 000 årlig.

OpenAI startet opprinnelig som en ideell organisasjon, men entter Musks avgang i 2018 overtok Altman som administrerende direktør for OpenAI.

Under hans ledelse gikk selskapet over til en profittmodell i 2019, og sikret seg raskt en investering på $1 milliard fra Microsoft. Dette er en viktig begivenhet i OpenAIs historie. 

Det la grunnlaget for utviklingen og den offentlige lanseringen av ChatGPT i november 2022. Som 38-åring ledet Sam Altman et selskap som fikk svimlende 100 millioner brukere i løpet av to måneder. Den generative AI-tidsalderen hadde for alvor begynt, og OpenAI befant seg i sentrum av dette nye økosystemet. 

ChatGPTs lansering katalyserte en bølge av AI-finansiering i Silicon Valley, som beløper seg til $17,9 milliarder kroner, ifølge Bloomberg.

Til tross for ChatGPTs suksess har OpenAI, under Altmans ledelse, møtt en rekke utfordringer. Spørsmål om immaterielle rettigheter, personvern og den etiske integreringen av kunstig intelligens i samfunnet har utløst heftige debatter. 

OpenAIs unike styre 

OpenAI har en unik styringsmodell. Styret, som består av personer som ikke har eierandeler i selskapet, er drevet av et mål om å skape trygg kunstig generell intelligens (AGI) som kommer menneskeheten til gode, i stedet for å fokusere på profitt. AGI er kunstig intelligens som i stor grad tilsvarer eller overgår menneskelig kognisjon. 

Styrets uvanlige sammensetning gjenspeiler OpenAIs forpliktelse til de grunnleggende prinsippene, samtidig som det gjenspeiler utviklingen fra å være et non-profit-selskap i 2015 til å bli et profittbasert selskap.

I tillegg til Altman og Brockman besto OpenAIs styre av følgende personer før Altman fikk sparken 

• Adam D'Angelo: Administrerende direktør i Quora, Adam D'Angelo, har vært en del av OpenAIs styre siden april 2018. D'Angelo er kjent for sitt tankelederskap innen kunstig intelligens, og hans perspektiv på etisk og trygg utvikling av AI-teknologi anses som en nøkkelfaktor i styrets beslutninger. D'Angelo ble sittende i styret etter at Altman ble gjeninnsatt. 
• Tasha McCauley: McCauley er seniorforsker ved RAND Corporation, og hennes reise fra medstifteren av Fellow Robots til hennes nåværende rolle har vært preget av et sterkt fokus på innovasjon og styring av kunstig intelligens. Hennes engasjement i Asilomar AI-prinsipper og retningslinjer for utvikling av kunstig intelligens som ligger tett opp til OpenAIs grunnleggende prinsipper. McCauley ble fjernet fra styret etter at Altman ble gjeninnsatt. 
• Ilya Sutskever: Sutskever var en av grunnleggerne av OpenAI sammen med Altman og Brockman, og hans innflytelse var betydelig. Hans informatikkbakgrunn og rolle som først forskningsdirektør og senere forskningssjef i OpenAI gir ham en dyp forståelse av selskapets teknologiske og forskningsmessige mål. Hans bidrag har vært avgjørende for å forme organisasjonens retning og forskningsprioriteringer. Sutskever ble fjernet fra styret etter at Altman ble gjeninnsatt. 
• Helen Toner: Toners ekspertise innen AI-politikk og etikk, som stammer fra hennes rolle ved Georgetowns Center for Security and Emerging Technology, har vært avgjørende for å navigere i de globale implikasjonene og etiske vurderingene av AI-utviklingen. Toner ble fjernet fra styret etter at Altman ble gjeninnsatt. 

Fra og med 26.11.23 består OpenAIs nye styre av D'Angelo og:

• Bret Taylor: Bret Taylor, 43 år gammel, er en fremtredende skikkelse i teknologibransjen, kjent for sin rolle som dataprogrammerer og gründer. Han har vært styremedlem i Shopify og tidligere co-CEO i Salesforce.
• Larry Summers: Larry Summers (68) er en amerikansk økonom med en rik bakgrunn fra offentlig tjeneste og akademia. Han var USAs finansminister fra 1999 til 2001 og direktør for det nasjonale økonomiske rådet under president Obama fra 2009 til 2010. Summers er også professor ved Charles W. Eliot University og president emeritus ved Harvard University. I tillegg sitter han i styrene i Block Inc. og Skillsoft Corp. og er rådgiver for Andreessen Horowitz.

OpenAI har til hensikt å utvide styret til opptil ni medlemmer.

En tidslinje over Altmans avgang og tilbakekomst

Avgangen til Altman, som kun eide indirekte aksjer i OpenAI gjennom en investering fra Y Combinator, der han tidligere var president, var et sjokk med tanke på hans sentrale rolle i selskapet. 

Ifølge kilder var han ikke involvert i avstemningen om å avsette ham, noe som tyder på mulige interne uenigheter eller endringer i visjonen for selskapets fremtid.

Da Brockman ble fjernet fra styret og deretter trakk seg, bidro det til dramatiske endringer på toppen av organisasjonen.

Her er en tidslinje over denne berg- og dalbanen av hendelser:

Før 17. november 2023

• Som ledet opp til hendelsen: OpenAI fungerer som normalt, uten noen offentlig indikasjon på de forestående lederskiftene. Han fortsetter i sin rolle som administrerende direktør, deltar i vanlige aktiviteter og representerer OpenAI på ulike arrangementer.

17. november 2023

• Tidlige timer: Sam Altman er opptatt med sine vanlige oppgaver, blant annet å tale på Asia-Pacific Economic Cooperation Summit i San Francisco sentrum.
• God kveld: Altman deltar på en samling i en lagerbygning i Oakland, der han snakker til en gruppe kunstnere om generativ AI. Han virker avslappet og engasjert, og viser ingen tegn til den kommende kunngjøringen.
• Sent på kvelden: Altman forlater arrangementet i Oakland og nevner at han er sent ute til et møte.
• OpenAIs styrevedtak: OpenAIs styre konkluderer etter en gjennomgang med at Altman ikke var konsekvent oppriktig i sin kommunikasjon med styret. Dette oppfattes som et hinder for styrets evne til å oppfylle sitt ansvar.
• Kunngjøringen om Altmans avgang: OpenAI kunngjør offentlig at Sam Altman slutter som administrerende direktør. Styret begrunner oppsigelsen med manglende tillit til hans evne til å fortsette å lede selskapet.

17. november 2023 (etter kunngjøringen)

• Greg Brockmans reaksjon: Kort tid etter kunngjøringen trakk Greg Brockman, medgrunnlegger og tidligere styreleder i OpenAI, seg. Til tross for at han opprinnelig hadde planer om å bli værende i selskapet i en annen stilling, ble han bestemmer seg for å dra helt og holdent.
• Mira Muratis utnevnelse: Mira Murati, OpenAIs teknologidirektør, utnevnes til midlertidig administrerende direktør etter Altmans avgang.
• Sam Altmans svar: Altman kom med sin første offentlige uttalelse etter avskjedigelsen på sosiale medier-plattformen X. Han ga ingen spesifikke detaljer om hendelsen, men antydet at han ville diskutere fremtidsplanene sine senere.
• Andre kolleger slutter: Flere andre kolleger forlater selskapet i solidaritet. 

Sam og jeg er sjokkerte og triste over det styret gjorde i dag.

La oss først takke alle de utrolige menneskene vi har jobbet med i OpenAI, kundene våre, investorene våre og alle de som har kontaktet oss.

Vi prøver også fortsatt å finne ut nøyaktig...

- Greg Brockman (@gdb) 18. november 2023

Etter 17. november 2023

• Bransjens reaksjon: Teknologi- og AI-miljøet reagerer med overraskelse. Partnere, inkludert Microsoft, og innsidere uttrykker sjokk, ettersom de ikke har vært klar over styrets overveielser og beslutning.
• Usikkerhet: Teknologibransjen begynner å spekulere i OpenAIs fremtidige retning, særlig med tanke på den raske veksten og innflytelsen selskapet har fått etter lanseringen av ChatGPT.

første og siste gang jeg bruker en av disse pic.twitter.com/u3iKwyWj0a

- Sam Altman (@sama) 19. november 2023

20. november 2023

• Ny administrerende direktør i OpenAI: Ny administrerende direktør i OpenAI: Emmet Shear, medgrunnlegger av Twitch, er utnevnt til OpenAIs nye administrerende direktør. 
• Microsoft ansetter Altman og Brockman: Microsoft har ansatt Sam Altman og Greg Brockman. De skal lede et nytt AI-forskningslaboratorium. Rapporter hadde imidlertid tidligere indikert stigende spenninger mellom de to selskapene.
• Ansatte gjør opprør: Om lag 550 av 700 OpenAI-ansatte, inkludert de fleste toppforskerne, signere et brev og anklager styret for å ha opptrådt uforsvarlig, noe som har ført til masseutspill og påfølgende dramatikk på X. De signerte truer med å slutte seg til Microsoft, som angivelig vil gi alle som forlater OpenAI jobb sammen med Altman og Brockman.
• Presset øker: Brevet ble til slutt undertegnet av så godt som alle OpenAI-ansatte.
• Microsoft kaster seg inn i kampen: Microsoft sier at det er plass til alle OpenAI-ansatte i selskapet, noe som truer med et stort maktovertak og OpenAIs undergang. Observatører blir skeptiske til at Microsoft vil eie all makt og talent innen AI, inkludert Elon Musk, som sa at dette ville være det verste utfallet.
• Spekulasjoner: Mange spekulerte i at OpenAI vil falle i glemselen hvis masseflukten tar til. Microsoft kan bli den ny leder innen generativ kunstig intelligens, å absorbere OpenAIs ekspertise i sin modne profittstruktur.

I dag fikk jeg en telefon der jeg ble invitert til å vurdere en mulighet jeg bare får én gang i livet: å bli midlertidig administrerende direktør for @OpenAI. Etter å ha rådført meg med familien min og reflektert over det i noen timer, takket jeg ja. Jeg hadde nylig sagt opp min stilling som administrerende direktør for Twitch på grunn av fødselen av min...

- Emmett Shear (@eshear) 20. november 2023

21. november 2023:

• Sam Altman gjeninnsatt: Etter massivt press fra ansatte og investorer kom styret tilbake Altman til stillingen som administrerende direktørog OpenAI ble i hovedsak reformert. Brockman vendte også tilbake til sin stilling.
• X eksploderer: Altman, Brockman og andre skriver mange ganger på X for å understreke sin triumf med å bringe OpenAI tilbake til fordums glans.

Etter 21. november 2023:

• Diagnose: Tilhengere og kritikere av OpenAI begynner å prøve å finne ut hva som skjedde. Det avdekkes skjulte motiver, men ingen blir bekreftet.
• Q*: Noen spekulerer i at OpenAI sitter på en farlig modell, noe som fikk styret til å sparke Altman i frykt for at han ikke tar AI-sikkerhet på alvor. Mer om det her.
• Business as usual: Mens støvet legger seg, fortsetter Altman, Brockman osv. sitt oppdrag.

OpenAIs styre snudde, men hvorfor? Og hva betyr det?

Fjerningen og gjeninnsettelsen av Altman fra OpenAI var sjokkerende, ikke bare fordi det dreier seg om en høyt profilert person i teknologiverdenen, men fordi det symboliserer de dyptgripende utfordringene ved styring av kunstig intelligens.

AI er i rask utvikling og er gjenstand for intens offentlig debatt, spekulasjoner og regulatoriske konsekvenser. 

Beslutningen fra OpenAIs styre om å fjerne Altman var angivelig drevet av uenigheter om hastigheten på kommersialiseringen av AI og ulike syn på AI-sikkerhet. Det viser konflikten mellom den raske utviklingen av kunstig intelligens og behovet for ansvarlig, etisk tilsyn.

Det virker som om Altman, Brockman og de fleste OpenAI-ansatte ønsker å fortsette i samme spor. De har som mål å skape kunstig generell intelligens (AGI) som overgår menneskelig kognisjon.

I mellomtiden har OpenAIs verdi økt kraftig og nærmer seg $100 milliarder, og ligger for tiden på rundt $86 milliarder.

OpenAI var en ideell organisasjon, men gikk over til en ny profittstruktur i 2019, så det er en bemerkelsesverdig oppgang. 

Men i stedet for å representere finansielle støttespillere, har OpenAIs styre hatt - og har fortsatt - som oppgave å handle i menneskehetens interesse. Dette gjenspeiles i styrets sammensetning, som inntil nylig besto av tre av OpenAIs medgrunnleggere og tre uavhengige medlemmer.

Kritikerne hevdet at en slik struktur, med sin selvstyrte tilnærming og mangel på ekstern ansvarliggjøring, kanskje ikke ville være bærekraftig på lang sikt. Dette synet har foreløpig blitt bekreftet, og det nye styret vil sannsynligvis ikke ta de samme risikoene som sine forgjengere. 

Dette har imidlertid vist at hvis styret er opptatt av selskapets retning, er det langt fra sikkert at det blir tatt positive beslutninger. 

I mange teknologiselskaper er det ofte grunnleggerne som påvirker selskapets retning. Deres visjon og karisma kan overskygge tradisjonelle strukturer for selskapsstyring, men dette tok det til et nytt nivå. 

"King Sam", som noen store nyhetsmedier har kalt ham, kan ikke avsettes av styret.

Sikkerhetsspørsmål kan ha vært grunnen til at Altman fikk sparken

De fleste er enige om at styret sparket Altman på grunn av sikkerhetshensyn, men til tross for at dette har blitt de facto-hendelsesforløpet, finnes det få håndfaste bevis. 

En teori som støtter dette, antyder en underliggende debatt om sikkerhet fra Dustin Moskovitz, en tidlig Facebook-ansatt og grunnlegger av Asana, som grunnla Åpen filantropi. Moskovitz er en innflytelsesrik skikkelse innen kunstig intelligens, men har trappet opp samtalene om AI-sikkerhet og behovet for tilbakeholdenhet. 

Moskovitz' forbindelser med styremedlemmer som Adam D'Angelo, Helen Toner og Tasha McCauley, som har bånd til organisasjoner han støtter, tyder på at han kan ha innflytelse over OpenAIs ledelse.

Toner kritiserte også organisasjonen for å ha sluppet GPT-modeller for tidlig, noe som angivelig har ført til et "kappløp mot bunnen" i AI-utviklingen. Dette innebærer at OpenAIs tilnærming til lansering av AI-modeller kan være hensynsløs eller uetisk, i motsetning til mer forsiktige tilnærminger som Anthropic, som Toner i en artikkel omtalte som en bedre modell for styring av AI.

Noen så på det som en gyldig kritikk av OpenAIs strategier, mens andre satte spørsmålstegn ved kvaliteten og hensiktsmessigheten av å kritisere selskapet man er en del av offentlig. 

Til slutt ble det spekulert i om OpenAI satt på en farlig stor kraftig modell kalt Q*.

Reuters rapporterte at innsidere kontaktet dem for å si at ansatte var bekymret for Q* og advarte styret - men det ser ikke ut til å være i tråd med solidariteten som brakte Altman tilbake til selskapet.

Noen har imidlertid nevnt at aksjer for ansatte legges ut for salg snart. Altmans avgang ville i det minste ha forsinket dette.

Var sikkerheten noen gang et problem?

Det vet vi ikke ennå. Det ser imidlertid ut til at OpenAIs unike struktur, som blander ideelle formål med profittbasert drift, har mistet sin glans i år. 

Sarah Kreps, direktør for Tech Policy Institute ved Cornell University, sa"Sam Altman og Greg Brockman ser ut til å være av den oppfatning at en akselerasjon av kunstig intelligens vil være til størst nytte for menneskeheten. Flertallet i det [gamle] styret ser imidlertid ut til å være av en annen oppfatning, nemlig at utviklingen går for raskt og kan gå på bekostning av sikkerhet og tillit."

Ettersom OpenAI har lansert kommersielt vellykkede produkter og tiltrukket seg betydelige investeringer, er det nærliggende å tro at Altman, Brockman og de fleste ansatte rett og slett ikke er villige til å sette på bremsene - det strider mot den menneskelige natur, for ikke å snakke om Silicon Valley-kulturen. 

OpenAI har raskt blitt et av verdens mest innflytelsesrike land. De vil ikke la rivalene seile forbi dem ved å stoppe utviklingen.

Hvem tjente på alt dette?

OpenAI er i ferd med å danne et nytt styre, som for tiden består av Bret Taylor (tidligere Salesforce), Larry Summers (tidligere finansminister i USA), og Adam D'Angelo, som fortsatt sitter i styret.

Dette vil bli utvidet til ni styremedlemmer og vil utvilsomt forme organisasjonens fremtidige kurs.

Altman har gjenvunnet sin posisjon, og er nå den ubestridte lederen av OpenAI. Med nye allierte i styret og mindre intern motstand vil Altmans visjon for kunstig intelligens trolig møte mindre motstand. Det ser ut til at det ikke er tilstrekkelig å basere seg utelukkende på intern styring for å håndtere de komplekse konsekvensene av kunstig intelligens. 

har vi mer samhold, engasjement og fokus enn noen gang tidligere.

Vi kommer alle til å jobbe sammen på en eller annen måte, og jeg gleder meg så mye.

ett team, ett oppdrag.

- Sam Altman (@sama) 20. november 2023

OpenAI vil fortsette i samme ubarmhjertige tempo, med full fart mot AGI. Vi vil vite hva konsekvensene blir når vi kommer dit, for det ser ikke ut til at noe vil stoppe det.

I hvert fall ikke lenger enn fire dager.