Elon Musk har lagt sag an mod OpenAI og dets medstiftere, Sam Altman og Greg Brockman, for angiveligt at have brudt den aftale, de underskrev, da de tre mænd grundlagde OpenAI.
Retssagen giver et interessant indblik i tilblivelsen af den virksomhed, der er blevet førende inden for udvikling af avancerede AI-modeller. Det drejer sig om de to hovedmål for OpenAI, som blev dokumenteret i virksomhedens "Founding Agreement".
De tre mænd blev enige om, at OpenAI "ville være en nonprofit-organisation, der udvikler AGI til gavn for menneskeheden, ikke for en profitvirksomhed, der søger at maksimere aktionærernes overskud."
De blev også enige om, at OpenAI "ville være open source, kun afbalancere modstående sikkerhedshensyn og ikke holde sin teknologi lukket og hemmelig af proprietære kommercielle grunde."
Musk frygtede og frygter stadig, at den profitable stræben efter AGI og eksklusiv kontrol over teknologien fra virksomheder som Google vil være skadelig for det menneskelige samfund.
Tanken bag aftalen var, at OpenAI ville skabe en åben og sikker AGI, som ville være frit tilgængelig for menneskeheden, og dermed fjerne risikoen for, at profitorienterede virksomheder bruger teknologien til skade for menneskeheden.
Bruddet
Dagens ubestridte førende AI-model er OpenAI's GPT-4, men der er ikke noget som helst åbent ved den, på trods af virksomhedens navn der har udviklet den. I modsætning til GPT-3 har OpenAI ikke engang udgivet et teknisk dokument, der beskriver, hvordan GPT-4 fungerer.
I stiftelsesaftalen stod der, at virksomheden ville forfølge open source-teknologi, men kun OpenAI og sandsynligvis Microsoft har adgang til GPT-4's kode, vægte og træningsdata.
Det koster penge at drive en virksomhed som OpenAI, så det er ingen overraskelse, at den tager penge for at bruge sine produkter. Men dens eksklusive licensaftale med Microsoft betyder, at dens modeller nu bruges til at skabe profit for Big Tech. Præcis det modsatte af de grundlæggende principper, som Musk siger, at de alle var enige om.
Søgsmålet hævder, at "OpenAI, Inc. er blevet omdannet til et de facto datterselskab med lukket kildekode af verdens største teknologivirksomhed: Microsoft. Under den nye bestyrelse er det ikke bare ved at udvikle, men faktisk ved at forfine en AGI for at maksimere profitten for Microsoft, snarere end til gavn for menneskeheden."
Har vi AGI?
Microsofts licensaftale gælder kun for OpenAI's præ-AGI-teknologi. Hvis det viser sig, at en OpenAI-model har nået AGI-niveauet, forhindrer licensaftalen Microsoft i at få adgang til den.
Musks søgsmål kommer med en dristig påstand om, at "GPT-4 er en AGI-algoritme", så Microsoft bør ikke have adgang til den. Søgsmålet beder om, at retten afgør, at dette er sandt. Jeg er ikke sikker på, hvordan dommeren og juryen skal gøre det, når der ikke findes en brancheaccepteret definition af, hvad AGI præcist er.
Søgsmålet bekræfter også rygterne om, hvad OpenAI's ingeniører har arbejdet på. Søgsmålet hævder, at "OpenAI i øjeblikket udvikler en model kendt som Q* (Q-stjerne) der har et endnu stærkere krav på AGI."
I sidste ende er det OpenAI's bestyrelse, der bestemmer. hvad der kvalificerer som AGI under Microsofts licensaftale. Efter at Altmans fyring, genansættelse og udskiftning i bestyrelsenDen beslutning ligger nu hos de nye bestyrelsesmedlemmer, som blev udpeget med Microsofts velsignelse.
Er det derfor, at Ilya Sutskever blev fjernet fra bestyrelsen og stille og roligt gemt væk i et baglokale? Har nogen hørt fra ham i månedsvis? Hvad så Ilya?
Forvent ikke, at den nye bestyrelse vil have travlt med at hævde, at AGI er opnået, selvom det er det, der er målet. udtrykkeligt erklærede mål for virksomheden.
Frygt for kunstig intelligens
En af de erklærede motiver bag søgsmålet er Musks vedvarende frygt for, at AGI skal falde i de forkerte hænder.
Sagsanlægget fortæller, hvordan Musk mødtes med DeepMind-medstifteren Demis Hassabis i 2012 for at diskutere denne frygt, og Hassabis delte nogle af dem.
Der står også, at "efter et møde med Hassabis og investorer i DeepMind bemærkede en af investorerne, at det bedste, han kunne have gjort for menneskeheden, var at skyde Hassabis på stedet."
Da Musk diskuterede sin frygt med Googles daværende CEO Larry Page, sagde Page, at superintelligent AI, der erstatter mennesker, blot ville "være det næste trin i evolutionen", og hævdede, at Musk var en "specist" med sine pro-menneskelige synspunkter.
Er Musk overdramatisk, eller bør vi være bekymrede?
Retssagen er værd at læse, hvis du vil have et kig bag kulisserne på, hvordan en stor del af branchen er kommet dertil, hvor den er i dag. Det er dog ikke sandsynligt, at sagen bliver løst foreløbig.
OpenAI kan meget vel bekræfte Musks AI-frygt og bruge det som hovedårsag til ikke at frigive sine modeller som open source. At argumentere for virksomhedens stræben efter profit kan være en sværere opgave for OpenAI's allerede meget travlt juridisk team.
