Elon Musk heeft een rechtszaak aangespannen tegen OpenAI en zijn medeoprichters, Sam Altman en Greg Brockman, omdat ze de overeenkomst die ze ondertekenden toen de drie OpenAI oprichtten, zouden hebben geschonden.
De rechtszaak biedt een interessante kijk op de ontstaansgeschiedenis van het bedrijf dat toonaangevend is geworden in de ontwikkeling van geavanceerde AI-modellen. Het draait om de twee hoofddoelen van OpenAI die zijn vastgelegd in de "Founding Agreement" van het bedrijf.
De drie mannen waren het erover eens dat OpenAI "een non-profit bedrijf zou zijn dat AGI zou ontwikkelen ten voordele van de mensheid, niet voor een for-profit bedrijf dat de winst van aandeelhouders wil maximaliseren".
Ze waren het er ook over eens dat OpenAI "open-source zou zijn, alleen tegenwicht zou bieden aan veiligheidsoverwegingen en zijn technologie niet gesloten en geheim zou houden om commerciële redenen".
Musk vreesde en vreest nog steeds dat het winstgevende streven naar AGI en de exclusieve controle over de technologie door bedrijven als Google schadelijk zou zijn voor de menselijke samenleving.
Het idee achter de overeenkomst was dat OpenAI een open en veilige AGI zou creëren die vrij beschikbaar zou zijn voor de mensheid, waardoor het risico werd weggenomen dat bedrijven met winstoogmerk de technologie ten nadele van de mensheid zouden gebruiken.
De breuk
Het onbetwiste toonaangevende AI-model van dit moment is OpenAI's GPT-4, maar daar is helemaal niets open aan, ondanks de naam van het bedrijf die het heeft ontwikkeld. In tegenstelling tot GPT-3 heeft OpenAI niet eens een technisch document uitgebracht over hoe GPT-4 werkt.
Hoewel in de oprichtingsovereenkomst stond dat het bedrijf open-source technologie zou nastreven, heeft alleen OpenAI, en waarschijnlijk Microsoft, toegang tot GPT-4's code, gewichten en trainingsgegevens.
Het kost geld om een bedrijf als OpenAI te runnen, dus het is geen verrassing dat het gebruikers laat betalen voor het gebruik van zijn producten. Maar de exclusieve licentieovereenkomst met Microsoft betekent dat de modellen nu worden gebruikt om winst te genereren voor Big Tech. Precies het tegenovergestelde van de oprichtingsprincipes waar ze volgens Musk allemaal mee hebben ingestemd.
De rechtszaak beweert dat "OpenAI, Inc. is veranderd in een closed source de facto dochteronderneming van het grootste technologiebedrijf ter wereld: Microsoft. Onder het nieuwe bestuur ontwikkelt het niet alleen een AGI, maar verfijnt het die zelfs om de winst voor Microsoft te maximaliseren, in plaats van ten voordele van de mensheid."
Hebben we AGI?
Microsofts licentieovereenkomst is alleen van toepassing op de pre-AGI-technologie van OpenAI. Als wordt vastgesteld dat een OpenAI model het niveau van AGI heeft bereikt, dan sluit de licentieovereenkomst uit dat Microsoft er toegang toe krijgt.
De rechtszaak van Musk maakt een gewaagde claim door te stellen dat "GPT-4 een AGI-algoritme is" en dat Microsoft er dus geen toegang toe zou mogen hebben. In de rechtszaak wordt de rechter gevraagd om te oordelen dat dit waar is. Ik weet niet zeker hoe de rechter en jury dat moeten doen zonder een door de industrie geaccepteerde definitie van wat AGI precies is.
De rechtszaak bevestigt ook de geruchten over waar de technici van OpenAI aan hebben gewerkt. De rechtszaak beweert dat "OpenAI momenteel een model ontwikkelt dat bekend staat als Q* (Q-ster) die nog meer aanspraak maakt op AGI."
Uiteindelijk beslist het bestuur van OpenAI... wat kwalificeert als AGI onder de licentieovereenkomst van Microsoft. Na de Altman ontslaan, opnieuw aannemen en de raad van bestuur verschuivenDie beslissing ligt nu bij nieuwe bestuursleden die met de zegen van Microsoft zijn aangesteld.
Is dit de reden waarom Ilya Sutskever uit het bestuur is gezet en stilletjes in een achterkamertje is opgeborgen? Heeft iemand al maanden iets van hem gehoord? Wat heeft Ilya gezien?
Verwacht niet dat het nieuwe bestuur haastig zal beweren dat AGI is bereikt, ook al is dat wel het geval. uitdrukkelijk vermeld doel van het bedrijf.
AI-vrees
Een van de beweegredenen achter de rechtszaak is Musks voortdurende angst dat AGI in verkeerde handen valt.
De rechtszaak vertelt hoe Musk een ontmoeting had met DeepMind medeoprichter Demis Hassabis in 2012 om deze angsten te bespreken, waarvan Hassabis er een aantal deelde.
Er staat ook dat "na een bijeenkomst met de heer Hassabis en investeerders in DeepMind, een van de investeerders opmerkte dat het beste wat hij had kunnen doen voor het menselijk ras was de heer Hassabis ter plekke neer te schieten."
Toen Musk zijn angsten besprak met Google's toenmalige CEO Larry Page, zei Page dat superintelligente AI die mensen vervangt slechts "de volgende fase van de evolutie zou zijn" en hij beweerde dat Musk een "specist" was met zijn pro-menselijke standpunten.
Is Musk overdreven dramatisch, of moeten we ons zorgen maken?
De rechtszaak is de moeite waard om te lezen als je een kijkje achter de schermen wilt van hoe een groot deel van de industrie terecht is gekomen waar het nu is. De zaak zal waarschijnlijk niet snel worden opgelost.
OpenAI zou wel eens Musks AI-vrees kunnen bevestigen en dat als belangrijkste reden kunnen gebruiken om zijn modellen niet als open-source vrij te geven. Het winstbejag van het bedrijf beargumenteren kan een zwaardere taak worden voor OpenAI's reeds zeer druk juridisch team.
