Sam Altman och OpenAI - sammanfattning: vad hände och varför?

Den 17 november 2023 meddelade OpenAI:s styrelse att VD Sam Altman avskedats och att VD Greg Brockman därefter uteslutits ur styrelsen. Bara fyra dagar senare återvände Altman till sin post. 

När Altman fick sparken, enligt en rapport från Blogginlägg från OpenAI, Altman hade inte varit 'uppriktigt" med styrelsen, och hans kommunikation var inte tillräckligt transparent.

I kaoset som följde skulle Altman och Brockman ansluta sig till Microsoft i ett nytt forskningsteam. Anställda gjorde uppror mot OpenAI:s styrelse, och de allra flesta uppgav att de skulle sluta om inte styrelsen ändrade sitt beslut.

Twitchs medgrundare Emmet Shear tillträdde som VD under några dagar innan Altman, genom kollektiv handling, återinsattes som VD.

Det är förmodligen den mest extraordinära serien av händelser i Silicon Valleys bolagsstyrningshistoria.

Sam Altmans bakgrund på OpenAI

Altman föddes i Chicago 1985 och visade redan i tidig ålder ett stort intresse för teknik. Redan vid åtta års ålder programmerade och demonterade han datorer. År 2015 var Altman med och grundade OpenAI tillsammans med andra teknikchefer som Elon Musk. 

Före sin roll på OpenAI var Altman VD för Y Combinator, en framstående inkubator för nystartade teknikföretag, med start 2014. Under hans ledning såg Y Combinator en störtflod av startup-ansökningar på totalt 40 000 per år.

OpenAI startade ursprungligen som en ideell förening, men enfter Musks avgång 2018 tog Altman över som VD för OpenAI.

Under hans ledning övergick företaget till en vinstdrivande modell 2019 och säkrade snabbt en investering på $1 miljard från Microsoft. Detta är en viktig händelse i OpenAI:s historia. 

Det lade grunden för utvecklingen och den offentliga lanseringen av ChatGPT i november 2022. Vid 38 års ålder ledde Sam Altman ett företag som fick 100 miljoner användare inom loppet av två månader. Tidsåldern för generativ AI hade verkligen börjat, och OpenAI stod i centrum för detta nya ekosystem. 

ChatGPT:s lansering katalyserade en våg av AI-finansiering i Silicon Valley, som uppgick till $17,9 miljarder kronor, enligt Bloomberg.

Trots ChatGPT:s framgångar har OpenAI, under Altmans ledning, haft sin beskärda del av utmaningar. Frågor om immateriella rättigheter, datasekretess och den etiska integrationen av AI i samhället har gett upphov till häftiga debatter. 

OpenAI:s unika styrelse 

OpenAI arbetar enligt en unik styrningsmodell. Styrelsen, som består av personer som inte har något aktieinnehav i bolaget, drivs av ett uppdrag att skapa säker artificiell allmän intelligens (AGI) som gynnar mänskligheten i stort snarare än att fokusera på vinster. AGI är AI som i stort sett motsvarar eller överträffar mänsklig kognition. 

Styrelsens ovanliga sammansättning återspeglar OpenAI:s engagemang för sina grundprinciper samtidigt som den återspeglar utvecklingen från den ursprungliga ideella statusen 2015 till ett vinstdrivande företag.

Förutom Altman och Brockman ingick följande personer i OpenAI:s styrelse innan Altman avskedades 

• Adam D'Angelo: Adam D'Angelo, VD för Quora, har varit en del av OpenAI:s styrelse sedan april 2018. D'Angelo är känd för sitt tankeledarskap inom AI och hans perspektiv på etisk och säker utveckling av AI-teknik anses vara en viktig faktor i styrelsens beslut. D'Angelo kvarstod på tavlan efter att Altman återinsatts. 
• Tasha McCauley: McCauley är senior management scientist på RAND Corporation och hennes resa från att vara med och grunda Fellow Robots till hennes nuvarande roll har präglats av ett starkt fokus på innovation och styrning av AI. Hennes engagemang i Asilomar AI-principer och riktlinjer för AI-utveckling låg i linje med OpenAI:s grundprinciper. McCauley avlägsnades från styrelsen efter att Altman återinsatts. 
• Ilya Sutskever: Som medgrundare av OpenAI tillsammans med Altman och Brockman hade Sutskever ett betydande inflytande. Hans bakgrund inom datavetenskap och roll som först forskningschef och senare vetenskapschef på OpenAI ger honom en djup förståelse för företagets tekniska och forskningsmässiga mål. Hans bidrag har varit avgörande för att forma organisationens inriktning och forskningsprioriteringar. Sutskever uteslöts ur styrelsen efter att Altman återinsatts. 
• Helen Toner: Toners expertis inom AI-policy och etik, som härrör från hennes roll vid Georgetowns Center for Security and Emerging Technology, har varit avgörande för att navigera i de globala konsekvenserna och etiska övervägandena av AI-utveckling. Toner avlägsnades från styrelsen efter att Altman återinsatts. 

Från och med den 26/11/23 ingår D'Angelo och i OpenAI:s nya styrelse:

• Bret Taylor: Bret Taylor, 43 år, är en framstående person inom teknikindustrin, känd för sin roll som programmerare och entreprenör. Han har suttit i styrelsen för Shopify och var tidigare co-CEO för Salesforce.
• Larry Summers: Larry Summers, 68, är en amerikansk ekonom med en rik bakgrund inom offentlig tjänst och den akademiska världen. Han var USA:s finansminister 1999-2001 och chef för National Economic Council 2009-2010 under president Obama. Summers är också professor vid Charles W. Eliot University och President Emeritus vid Harvard University. Han sitter även i styrelsen för Block Inc. och Skillsoft Corp och är rådgivare till Andreessen Horowitz.

OpenAI har för avsikt att utöka styrelsen till upp till nio ledamöter.

En tidslinje över händelserna i samband med Altmans avgång och återkomst

Avgången för Altman, som endast indirekt ägde aktier i OpenAI genom en investering av Y Combinator, där han tidigare var VD, var en chock med tanke på hans centrala roll i bolaget. 

Enligt källor var han inte involverad i omröstningen om att avsätta honom, vilket tyder på möjliga interna meningsskiljaktigheter eller förändringar i visionen för bolagets framtid.

Avlägsnandet av Brockman från styrelsen och den efterföljande avgången bidrog till de dramatiska förändringarna i toppen av organisationen.

Här är en tidslinje över denna berg-och-dalbana av händelser:

Före den 17 november 2023

• som ledde fram till händelsen: OpenAI fungerar normalt, utan någon offentlig indikation på de förestående ledarskapsförändringarna. Han fortsätter i sin roll som VD, deltar i ordinarie verksamhet och representerar OpenAI vid olika evenemang.

17 november 2023

• Tidiga timmar: Sam Altman är upptagen med sina vanliga arbetsuppgifter, bland annat att tala vid Asia-Pacific Economic Cooperation Summit i centrala San Francisco.
• God kväll: Altman deltar i en sammankomst i en lagerlokal i Oakland och talar till en grupp konstnärer om generativ AI. Han verkar avslappnad och engagerad och visar inga tecken på det kommande tillkännagivandet.
• Sen kväll: Altman lämnar Oakland-eventet och nämner att han är sen till ett möte.
• OpenAI:s styrelsebeslut: OpenAI:s styrelse drar efter en granskning slutsatsen att Altman inte var konsekvent uppriktig i sin kommunikation med styrelsen. Detta uppfattas som ett hinder för styrelsens förmåga att fullgöra sina skyldigheter.
• Tillkännagivande av Altmans avgång: OpenAI tillkännager offentligt Sam Altmans uppsägning som VD. Styrelsen anger bristande förtroende för hans förmåga att fortsätta leda företaget som skäl till uppsägningen.

17 november 2023 (efter tillkännagivandet)

• Greg Brockmans reaktion: Kort efter tillkännagivandet avgick Greg Brockman, medgrundare och tidigare styrelseordförande i OpenAI. Trots inledande planer på att han skulle stanna kvar på företaget i en annan kapacitet, sade han upp sig. beslutar sig för att lämna helt och hållet.
• Mira Muratis utnämning: Mira Murati, OpenAI:s Chief Technology Officer, utsågs till tillförordnad VD efter Altmans avgång.
• Sam Altmans svar: Altman gjorde sitt första offentliga uttalande efter avskedandet på den sociala medieplattformen X. Han gav inga specifika detaljer om händelsen men meddelade att han skulle diskutera sina framtidsplaner senare.
• Andra kollegor lämnar: Flera andra kollegor lämnar företaget i solidaritet. 

Sam och jag är chockade och ledsna över vad styrelsen gjorde idag.

Låt oss först tacka alla de fantastiska människor som vi har arbetat med på OpenAI, våra kunder, våra investerare och alla de som har hört av sig.

Vi försöker också fortfarande lista ut exakt...

- Greg Brockman (@gdb) 18 november 2023

Efter den 17 november 2023

• Reaktion från branschen: Teknik- och AI-gemenskapen reagerar med förvåning. Partners, inklusive Microsoft, och insiders uttrycker chock över att inte ha varit medvetna om styrelsens överväganden och beslut.
• Osäkerhet: Teknikbranschen börjar spekulera om OpenAI:s framtida inriktning, särskilt mot bakgrund av dess snabba tillväxt och inflytande efter lanseringen av ChatGPT.

första och sista gången jag någonsin bär en sådan här pic.twitter.com/u3iKwyWj0a

- Sam Altman (@sama) 19 november 2023

20 november 2023

• Ny VD för OpenAI: Ny VD för OpenAI: Emmet Shear, medgrundare av Twitch, har utsetts till OpenAI:s nya VD. 
• Microsoft anlitar Altman och Brockman: Microsoft har anställt Sam Altman och Greg Brockman. De kommer att leda ett nytt AI-forskningslaboratorium. Rapporter hade dock tidigare indikerat stigande spänningar mellan de två företagen.
• Anställda rebell: Cirka 550 av 700 OpenAI-anställda, inklusive de flesta toppforskarna, underteckna ett brev och anklagar styrelsen för att ha agerat vårdslöst, vilket lett till massutfall och efterföljande drama på X. De undertecknade hotar att lämna för att gå med i Microsoft, som påstås ge alla OpenAI-avhoppare jobb tillsammans med Altman och Brockman.
• Trycket ökar: Brevet undertecknades så småningom av i stort sett alla OpenAI-anställda.
• Microsoft tar över: Microsoft säger att det finns plats för alla OpenAI-anställda på företaget, vilket hotar ett stort maktövertagande och OpenAI:s undergång. Observatörer blir försiktiga med att Microsoft kommer att äga all makt och talang inom AI, inklusive Elon Musk, som sa att detta skulle vara det värsta resultatet.
• Spekulationer: Många spekulerade i att OpenAI kommer att falla i glömska om massutvandringen påskyndas. Microsoft kan bli den ny ledare inom generativ AI, absorbera OpenAI:s expertis i sin mogna vinstdrivande struktur.

Idag fick jag ett samtal där jag uppmanades att överväga en möjlighet som jag bara får en gång i livet: att bli tillförordnad VD för @OpenAI. Efter att ha rådgjort med min familj och funderat på saken i bara några timmar tackade jag ja. Jag hade nyligen sagt upp mig från min roll som VD för Twitch på grund av min sons födelse...

- Emmett Shear (@eshear) 20 november 2023

21 november 2023:

• Sam Altman återinsatt i tjänst: Efter stora påtryckningar från anställda och investerare återvände styrelsen Altman kvar på sin post som VDoch OpenAI reformerades i stort sett. Brockman återvände också till sin post.
• X exploderar: Altman, Brockman och andra postar många gånger på X för att betona deras triumf i att återföra OpenAI till sin forna glans.

Efter den 21 november 2023:

• Diagnos: Anhängare och kritiker av OpenAI börjar försöka ta reda på vad som hände. Bakomliggande motiv avslöjas, men inga bekräftas.
• Q*: Vissa spekulerar i att OpenAI sitter på en farlig modell, vilket fick styrelsen att sparka Altman i rädsla för att han inte tar AI-säkerhet på allvar. Mer om detta här.
• Allt som vanligt: När dammet lagt sig fortsätter Altman, Brockman, etc., sitt uppdrag.

OpenAI:s styrelse gjorde en U-sväng, men varför? Och vad betyder det?

Avlägsnandet och återinsättandet av Altman från OpenAI var chockerande, inte bara för att det handlar om en högprofilerad person i teknikvärlden, utan för att det symboliserar de djupt rotade utmaningarna med AI-styrning.

AI utvecklas snabbt och är föremål för intensiv offentlig debatt, spekulationer och lagstiftning. 

OpenAI:s styrelses beslut att avsätta Altman ska ha berott på oenighet om hur snabbt kommersialiseringen av AI ska gå och olika syn på AI-säkerhet. Det visar på konflikten mellan den snabba utvecklingen av AI och behovet av ansvarsfull, etisk tillsyn.

Det verkar som om Altman, Brockman och de flesta OpenAI-anställda ville fortsätta på den inslagna vägen. Deras mål är att skapa artificiell allmän intelligens (AGI) som överträffar mänsklig kognition.

Under tiden har OpenAI:s värde ökat kraftigt mot $100 miljarder och ligger för närvarande på cirka $86 miljarder.

OpenAI var en icke-vinstdrivande organisation men övergick till en ny vinstdrivande struktur 2019, så det är en anmärkningsvärd uppgång. 

Men i stället för att representera finansiärer hade OpenAI:s styrelse - och har fortfarande - till uppgift att agera i mänsklighetens intresse. Detta avspeglades i styrelsens sammansättning, som fram till nyligen bestod av tre av OpenAI:s grundare och tre oberoende ledamöter.

Kritikerna menade att en sådan struktur, med dess självstyrande strategi och brist på externt ansvar, kanske inte är hållbar på lång sikt. Den åsikten har visat sig vara sann för tillfället, och den nya styrelsen kommer sannolikt inte att ta samma risker som sina föregångare. 

Detta har dock visat att om styrelsen är bekymrad över bolagets inriktning är positiv särbehandling långt ifrån en garanti. 

I många teknikföretag är det ofta grundarna som påverkar företagets inriktning. Deras vision och karisma kan överskugga traditionella bolagsstyrningsstrukturer, men det här företaget tog det till en ny nivå. 

"King Sam", som vissa stora nyhetsmedier har kallat honom, kan inte avsättas av styrelsen.

Säkerhetsfrågor motiverade kanske Altmans avskedande

De flesta är överens om att styrelsen avskedade Altman på grund av säkerhetsskäl, men trots att detta har blivit de facto-berättelsen om händelserna finns det få konkreta bevis. 

En teori som stöder detta är en underliggande debatt om säkerhet från Dustin Moskovitz, en tidig Facebook-anställd och grundare av Asana, som grundade Öppen filantropi. Moskovitz är en inflytelserik person inom AI men har intensifierat samtalen om AI-säkerhet och behovet av återhållsamhet. 

Moskovitz kontakter med styrelseledamöter som Adam D'Angelo, Helen Toner och Tasha McCauley, som har kopplingar till organisationer som han stöder, tyder på hans potentiella inflytande över OpenAI:s styrning.

Toner kritiserade också organisationen för att ha släppt GPT-modeller för tidigt, vilket påstås ha lett till ett "race to the bottom" inom AI-utvecklingen. Detta innebär att OpenAI:s sätt att släppa AI-modeller kan vara vårdslöst eller oetiskt, vilket står i kontrast till mer försiktiga tillvägagångssätt som Anthropic, som Toner i ett dokument hänvisade till som en bättre modell för AI-styrning.

Vissa såg det som en giltig kritik av OpenAI:s strategier, medan andra ifrågasatte dess kvalitet och lämpligheten i att offentligt kritisera det företag man själv är en del av. 

Slutligen fanns det spekulationer om att OpenAI satt på en farligt stor kraftfull modell kallad Q*.

Reuters rapporterade att insiders kontaktade dem för att säga att anställda var oroliga för Q * och varnade styrelsen - men det verkar inte vara i linje med den solidaritet som förde Altman tillbaka till företaget.

Vissa har dock nämnt att personalaktier säljs snart. Altmans avgång skulle åtminstone ha fördröjt detta.

Var säkerheten någonsin ett problem?

Vi vet ännu inte. Det verkar dock som om OpenAI:s unika struktur, som blandar ideella mål med vinstdrivande verksamhet, har tappat sin glans i år. 

Sarah Kreps, chef för Tech Policy Institute vid Cornell University, sa, "Sam Altman och Greg Brockman verkar vara av åsikten att en snabbare AI kan åstadkomma det mest positiva för mänskligheten. Majoriteten av den [gamla] styrelsen verkar dock vara av en annan uppfattning om att takten i utvecklingen är för snabb och kan äventyra säkerheten och förtroendet."

Eftersom OpenAI har lanserat kommersiellt framgångsrika produkter och dragit till sig betydande investeringar är det rimligt att tro att Altman, Brockman och de flesta anställda helt enkelt inte är beredda att dra i bromsen - det går emot den mänskliga naturen, för att inte tala om Silicon Valley-kulturen. 

OpenAI har snabbt blivit ett av världens mest inflytelserika länder. De kommer inte att vilja låta sina rivaler segla förbi dem genom att pausa framstegen.

Vem drog nytta av allt detta?

OpenAI håller på att bilda en ny styrelse, som för närvarande består av Bret Taylor (f.d. Salesforce), Larry Summers (f.d. USA:s finansminister) och Adam D'Angelo.

Detta kommer att utökas till nio styrelseledamöter och kommer utan tvekan att forma organisationens framtida inriktning.

Altman har återtagit sin position och är nu den obestridde ledaren för OpenAI. Med nya allierade i styrelsen och mindre internt motstånd kommer Altmans vision för AI sannolikt att fortsätta med mindre motstånd. Det verkar som om det inte räcker att enbart förlita sig på intern styrning för att hantera AI:s komplexa effekter. 

Vi har mer enighet, engagemang och fokus än någonsin tidigare.

vi kommer alla att arbeta tillsammans på ett eller annat sätt, och jag är så förväntansfull.

ett team, ett uppdrag.

- Sam Altman (@sama) 20 november 2023

OpenAI kommer att fortsätta i samma obevekliga takt och rusa mot AGI. Vi kommer att veta vilka konsekvenserna blir när vi når dit, eftersom det inte verkar som om något kommer att stoppa det.

Åtminstone inte längre än cirka fyra dagar.