Elon Musk har lämnat in en stämningsansökan mot OpenAI och dess medgrundare, Sam Altman och Greg Brockman, för påstådda brott mot det avtal de undertecknade när de tre männen grundade OpenAI.
Stämningen ger en intressant inblick i tillkomsten av det företag som har blivit ledande inom utvecklingen av avancerade AI-modeller. Det handlar om OpenAI:s två huvudsyften som dokumenterades i företagets "Founding Agreement".
De tre männen kom överens om att OpenAI "skulle vara en ideell organisation som utvecklar AGI för mänsklighetens bästa, inte för ett vinstdrivande företag som vill maximera aktieägarnas vinster".
De kom också överens om att OpenAI "skulle vara öppen källkod, endast balansera motvikande säkerhetsöverväganden och inte hålla sin teknik stängd och hemlig av proprietära kommersiella skäl".
Musk befarade, och befarar fortfarande, att den lönsamma jakten på AGI och den exklusiva kontrollen över tekniken av företag som Google skulle vara skadlig för det mänskliga samhället.
Tanken bakom avtalet var att OpenAI skulle skapa en öppen och säker AGI som skulle vara fritt tillgänglig för mänskligheten och därmed undanröja risken för att vinstdrivande företag skulle använda tekniken till mänsklighetens nackdel.
Överträdelsen
Dagens obestridda ledande AI-modell är OpenAI:s GPT-4, men den är inte på något sätt öppen, trots namnet på företaget som utvecklade den. Till skillnad från GPT-3 har OpenAI inte ens publicerat ett tekniskt dokument som beskriver hur GPT-4 fungerar.
Enligt grundavtalet skulle företaget arbeta med teknik som bygger på öppen källkod, men endast OpenAI, och förmodligen Microsoft, har tillgång till GPT-4:s kod, vikter och träningsdata.
Det kostar pengar att driva ett företag som OpenAI, så det är ingen överraskning att det tar betalt av användarna för att använda dess produkter. Men dess exklusiva licensavtal med Microsoft innebär att dess modeller nu används för att generera vinst för Big Tech. Exakt motsatsen till de grundläggande principer som Musk säger att de alla kom överens om.
I stämningsansökan hävdas att "OpenAI, Inc. har förvandlats till ett de facto dotterbolag med sluten källkod till världens största teknikföretag: Microsoft. Under sin nya styrelse inte bara utvecklar utan förfinar man faktiskt en AGI för att maximera vinsterna för Microsoft, snarare än för mänsklighetens bästa."
Har vi AGI?
Microsofts licensavtal gäller endast OpenAI:s teknik före AGI. Om det fastställs att en OpenAI-modell har nått AGI-nivån hindrar licensavtalet Microsoft från att få tillgång till den.
Musks stämningsansökan innehåller ett djärvt påstående om att "GPT-4 är en AGI-algoritm" och att Microsoft därför inte borde ha tillgång till den. I stämningsansökan begärs att domstolen ska slå fast att detta är sant. Jag är inte säker på hur domaren och juryn ska göra det i avsaknad av en branschaccepterad definition av exakt vad AGI är.
Stämningen bekräftar också ryktena om vad OpenAI: s ingenjörer har arbetat med. Stämningen hävdar att "OpenAI för närvarande utvecklar en modell som kallas Q* (Q-stjärna) som har ett ännu starkare anspråk på AGI."
I slutändan är det OpenAI:s styrelse som beslutar vad som kvalificerar som AGI enligt Microsofts licensavtal. Efter att Altman avskedar, återanställer och byter styrelseDet beslutet ligger nu hos de nya styrelseledamöterna som utsågs med Microsofts välsignelse.
Är det därför som Ilya Sutskever avlägsnades från styrelsen och i tysthet fastnade i något bakre rum? Har någon hört något från honom på flera månader? Vad såg Ilya?
Förvänta er inte att den nya styrelsen kommer att ha bråttom att hävda att AGI har uppnåtts, även om det är det uttryckligt angivet syfte med bolaget.
Rädsla för AI
Ett av de uttalade motiven bakom stämningen är Musks ständiga rädsla för att AGI ska hamna i orätta händer.
I stämningsansökan beskrivs hur Musk träffade DeepMinds medgrundare Demis Hassabis 2012 för att diskutera dessa farhågor, av vilka Hassabis delade några.
Det anges också att "efter ett möte med Hassabis och investerare i DeepMind anmärkte en av investerarna att det bästa han kunde ha gjort för mänskligheten var att skjuta Hassabis där och då".
När Musk diskuterade sina farhågor med Googles dåvarande VD Larry Page, sa Page att superintelligent AI som ersätter människor bara skulle "vara nästa steg i evolutionen" och hävdade att Musk var en "specist" med sina pro-mänskliga åsikter.
Är Musk överdrivet dramatisk, eller borde vi vara oroliga?
Stämningsansökan är läsvärd om du vill ha en titt bakom kulisserna på hur en stor del av branschen hamnade där den är idag. Det är dock inte troligt att fallet kommer att lösas inom den närmaste tiden.
OpenAI kan mycket väl bekräfta Musks AI-rädsla och använda det som huvudskäl för att inte släppa sina modeller som öppen källkod. Att argumentera för företagets strävan efter vinst kan vara ett tuffare jobb för OpenAI: s redan mycket upptagen juristgrupp.
