Elon Musk har saksøkt OpenAI og medstifterne Sam Altman og Greg Brockman for angivelig å ha brutt avtalen de inngikk da de tre mennene grunnla OpenAI.
Søksmålet gir et interessant innblikk i tilblivelsen av selskapet som har blitt ledende innen utvikling av avanserte AI-modeller. Det dreier seg om de to hovedmålene til OpenAI som ble dokumentert i selskapets "Founding Agreement".
De tre mennene ble enige om at OpenAI "skulle være en ideell organisasjon som utvikler AGI til fordel for menneskeheten, ikke for et profittmotivert selskap som ønsker å maksimere aksjonærenes fortjeneste".
De ble også enige om at OpenAI "skulle være åpen kildekode, kun balansere motstridende sikkerhetshensyn og ikke holde teknologien lukket og hemmelig av proprietære kommersielle grunner".
Musk fryktet, og frykter fortsatt, at den lønnsomme jakten på AGI og eksklusiv kontroll over teknologien fra selskaper som Google vil være skadelig for det menneskelige samfunnet.
Tanken bak avtalen var at OpenAI skulle skape en åpen og trygg AGI som skulle være fritt tilgjengelig for menneskeheten, og dermed fjerne risikoen for at profittorienterte selskaper skulle bruke teknologien til skade for menneskeheten.
Bruddet
Dagens ubestridt ledende AI-modell er OpenAIs GPT-4, men den er ikke det minste åpen, til tross for navnet på selskapet som utviklet den. I motsetning til GPT-3 har OpenAI ikke engang gitt ut et teknisk dokument som beskriver hvordan GPT-4 fungerer.
Selv om stiftelsesavtalen sa at selskapet skulle satse på teknologi med åpen kildekode, er det bare OpenAI, og sannsynligvis Microsoft, som har tilgang til GPT-4s kode, vekter og treningsdata.
Det koster penger å drive et selskap som OpenAI, så det er ingen overraskelse at de tar betalt for å bruke produktene sine. Men den eksklusive lisensavtalen med Microsoft betyr at modellene deres nå brukes til å generere profitt for Big Tech. Det er nøyaktig det motsatte av de grunnleggende prinsippene Musk sier at de alle var enige om.
I søksmålet hevdes det at "OpenAI, Inc. har blitt forvandlet til et de facto datterselskap med lukket kildekode av verdens største teknologiselskap: Microsoft. Under det nye styret utvikler det ikke bare, men foredler faktisk en AGI for å maksimere profitten til Microsoft, snarere enn til fordel for menneskeheten."
Har vi AGI?
Microsofts lisensavtale gjelder bare for OpenAIs teknologi før AGI. Hvis en OpenAI-modell blir vurdert til å ha nådd AGI-nivået, utelukker lisensavtalen Microsoft fra å få tilgang til den.
Musks søksmål kommer med en dristig påstand om at "GPT-4 er en AGI-algoritme", og at Microsoft derfor ikke bør ha tilgang til den. Søksmålet ber om at retten avgjør at dette er sant. Jeg er ikke sikker på hvordan dommeren og juryen skal gjøre det i mangel av en bransjeakseptert definisjon av nøyaktig hva AGI er.
Søksmålet bekrefter også ryktene om hva OpenAIs ingeniører har jobbet med. Søksmålet hevder at "OpenAI utvikler for tiden en modell kjent som Q* (Q-stjerne) som har et enda sterkere krav på AGI."
Til syvende og sist er det OpenAIs styre som bestemmer hva som kvalifiserer som AGI under Microsofts lisensavtale. Etter at Altman får sparken, ansettes på nytt og styret omrokeresDen avgjørelsen ligger nå hos de nye styremedlemmene som ble utnevnt med Microsofts velsignelse.
Var det derfor Ilja Sutskever ble fjernet fra styret og i all stillhet ble sittende på et bakrom? Har noen hørt fra ham på flere måneder? Hva så Ilja?
Forvent ikke at det nye styret vil ha det travelt med å hevde at AGI er oppnådd, selv om det er det som er målet. selskapets uttrykkelig uttalte mål.
Frykt for kunstig intelligens
En av de uttalte motivasjonene bak søksmålet er Musks pågående frykt for at AGI skal havne i gale hender.
Søksmålet forteller hvordan Musk møtte DeepMind-medgrunnlegger Demis Hassabis i 2012 for å diskutere denne frykten, og Hassabis delte noen av dem.
Det står også at "etter et møte med Hassabis og investorer i DeepMind, bemerket en av investorene at det beste han kunne ha gjort for menneskeheten, var å skyte Hassabis der og da."
Da Musk diskuterte frykten sin med Googles daværende administrerende direktør Larry Page, sa Page at superintelligent AI som erstatter mennesker, bare ville "være det neste stadiet i evolusjonen", og hevdet at Musk var en "specist" med sine pro-menneskelige synspunkter.
Er Musk overdramatisk, eller bør vi være bekymret?
Søksmålet er verdt å lese hvis du vil ha en titt bak kulissene på hvordan en stor del av bransjen kom dit den er i dag. Det er imidlertid ikke sannsynlig at saken vil bli løst med det første.
OpenAI kan godt bekrefte Musks AI-frykt og bruke det som hovedårsak til ikke å frigjøre modellene sine som åpen kildekode. Å argumentere for selskapets jakt på profitt kan bli en tøffere jobb for OpenAIs allerede et svært travelt juridisk team.
