Ilya Sutskever og Jan Leike fra OpenAI's "superalignment"-team sagde op i denne uge, hvilket kaster en skygge over virksomhedens forpligtelse til ansvarlig AI-udvikling under CEO Sam Altman.
Især Leike lagde ikke fingrene imellem. "I løbet af de seneste år er sikkerhedskultur og -processer blevet nedprioriteret til fordel for skinnende produkter", sagde han i en afskedssalut, som bekræftede uroen hos dem, der observerede... OpenAI's stræben efter avanceret AI.
I går var min sidste dag som leder af alignment, superalignment lead og executive OpenAI?ref_src=twsrc%5Etfw”>@OpenAI.
- Jan Leike (@janleike) 17. maj 2024
Sutskever og Leike er de seneste på en stadig længere liste over højt profilerede omrokeringer hos OpenAI.
Siden november 2023, hvor Altman med nød og næppe overlevede et kupforsøg i bestyrelseslokalet, har mindst fem andre nøglemedlemmer af superalignment-teamet enten sagt op eller er blevet tvunget ud:
- Daniel Kokotajlo, som kom til OpenAI i 2022 i håb om at styre virksomheden mod en ansvarlig udvikling af kunstig generel intelligens (AGI) - meget dygtig AI, der svarer til eller overgår vores egen kognition - stoppede i april 2024 efter at have mistet troen på ledelsens evne til at "håndtere AGI ansvarligt".
- Leopold Aschenbrenner og Pavel Izmailov, medlemmer af superalignment-teamet, blev angiveligt fyret i sidste måned for at "lække" information, men OpenAI har ikke fremlagt nogen beviser for forseelser. Insidere spekulerer i, at de blev angrebet, fordi de var Sutskevers allierede.
- Cullen O'Keefe, en anden sikkerhedsforsker, forlod os i april.
- William Saunders trak sig tilbage i februar men er tilsyneladende bundet af en aftale om ikke at diskutere sine grunde.
Amid these developments, OpenAI har angiveligt truet med at fjerne medarbejdernes aktierettigheder, hvis de kritiserer virksomheden eller Altman sig selv, ifølge Vox.
Det har gjort det svært virkelig at forstå problemet. OpenAI, but Der er tegn på, at sikkerheds- og tilpasningsinitiativerne fejler, hvis de da overhovedet var oprigtige i første omgang.
OpenAI's kontroversielle plot bliver tykkere
OpenAIgrundlagt i 2015 af Elon Musk og Sam Altmanvar dybt engageret i open source-forskning og ansvarlig AI-udvikling.
Men i takt med at virksomhedens vision er blevet udvidet i de senere år, har den trukket sig tilbage bag lukkede døre. I 2019, OpenAI officielt overgået fra en non-profit forskningslaboratorium til en "capped-profit"-enhedhvilket giver anledning til bekymring for et skift i retning af kommercialisering frem for gennemsigtighed.
Siden da, OpenAI har beskyttet sin forskning og sine modeller med jernhårde hemmeligholdelsesaftaler og trusler om sagsanlæg mod medarbejdere, der vover at udtale sig.
Andre vigtige kontroverser i startup-virksomhedens korte historie omfatter:
- I 2019, OpenAI forbløffede AI-samfundet ved at overgå fra et non-profit forskningslaboratorium til en "capped-profit"-virksomhed, hvilket markerer en positiv afvigelse fra de grundlæggende principper.
- Sidste år kom der rapporter om møder bag lukkede døre mellem OpenAI og Militær- og forsvarsorganisationer.
- Altman's uberegnelige tweets har løftet øjenbrynene, fra overvejelser om AI-drevet global styring til indrømmelse af eksistentiel risiko på en måde, der fremstiller ham selv som pilot på et skib, han allerede ikke kan styre.
- Det mest alvorlige slag mod Altman's lederskab til dato, var Sutskever selv en del af en mislykket kup i bestyrelseslokalet i november 2023, der forsøgte at afsætte den administrerende direktør. Altman Det lykkedes ham at holde fast i magten og vise, at han virkelig er knyttet til virksomheden på en måde, som er svær at skille ad, selv for bestyrelsen.
Mens bestyrelsesdramaer og stifterkriser ikke er ualmindelige i Silicon Valley, OpenAI's arbejde kan efter deres eget udsagn være afgørende for det globale samfund.
Offentligheden, tilsynsmyndighederne og regeringerne ønsker en konsekvent og ukontroversiel ledelse på OpenAIMen startup-virksomhedens korte, turbulente historie tyder på alt andet.
OpenAI er ved at blive antihelt i generativ AI
Mens lænestolsdiagnoser og karaktermord på Altman er uansvarlige, rejser hans rapporterede historie om manipulation og forfølgelse af personlige visioner på bekostning af samarbejdspartnere og offentlighedens tillid ubehagelige spørgsmål.
Det afspejler sig i samtalerne omkring Altman og hans virksomhed er blevet mere og mere ondskabsfulde på X, Reddit og Y Combinator-forummet.
Selv om teknologibosser ofte er polariserende, vinder de som regel tilhængere, som Elon Musk viser blandt de mere provokerende typer. Andre, som f.eks. Microsoft CEO Satya Nadellavinder respekt for deres virksomhedsstrategi og kontrollerede, modne ledelsesstil.
Lad os også anerkende, hvordan andre AI-startups, som f.eks. Anthropicformår at holde en ret lav profil på trods af deres store resultater i den generative AI-industri. OpenAIPå den anden side opretholder den en intens, kontroversiel tyngde, der holder den i offentlighedens søgelys, uden at det gavner hverken dens image eller billedet af generativ AI som helhed.
I sidste ende bør vi sige det, som det er. OpenAI's mønster af hemmeligholdelse har bidraget til følelsen af, at det ikke længere er en aktør i god tro inden for AI.
IDet efterlader offentligheden med spørgsmålet om, hvorvidt generativ AI kan undergrave samfundet i stedet for at hjælpe det. Det sender et budskab om, at forfølgelsen af AGI er en lukket affære, et spil, der spilles af tech-eliten uden at tage hensyn til de bredere konsekvenser.
Den moralske licensering af tech-industrien
Moralsk licensering har længe plaget teknologibranchen, hvor den nuværende virksomhedsmissions foreslåede ædelhed bruges til at retfærdiggøre etiske kompromiser.
Fra Facebooks "move fast and break things"-mantra til Googles "don't be evil"-slogan har tech-giganterne gentagne gange påberåbt sig sproget om fremskridt og socialt gode, mens de har været involveret i tvivlsomme praksisser.
OpenAI's mission om at forske i og udvikle AGI "til gavn for hele menneskeheden" indbyder måske til den ultimative form for moralsk licens.
Løftet om en teknologi, der kan løse verdens største udfordringer og indvarsle en æra med hidtil uset velstand, er forførende. Det appellerer til vores dybeste håb og drømme og udnytter ønsket om at efterlade en varig, positiv indvirkning på verden.
Men deri ligger faren. Når der står så meget på spil, og de potentielle belønninger er så store, bliver det alt for nemt at retfærdiggøre at skære hjørner, gå uden om etiske grænser og afvise kritik i navnet på et "større gode", som ingen enkeltperson eller lille gruppe kan definere, ikke engang med al finansiering og forskning i verden.
Det er den fælde, der OpenAI risikerer at falde i. Ved at positionere sig selv som skaberen af en teknologi, der vil gavne hele menneskeheden, har virksomheden i bund og grund givet sig selv en blankocheck til at forfølge sin vision med alle nødvendige midler.
Så hvad kan vi gøre ved det hele? Tja, snak er billigt. Robust ledelse, løbende progressiv dialog og vedvarende pres for at forbedre branchens praksis er nøglen.
Hvad angår OpenAI selv, da det offentlige pres og mediernes kritik af OpenAI vokse, Altman's position kan blive mindre holdbar.
Hvis han rejser eller bliver afsat, må vi håbe, at noget positivt udfylder det enorme tomrum, han efterlader.
