Ilya Sutskever en Jan Leike van OpenAIHet "superalignment" team nam deze week ontslag, wat een schaduw werpt op de toewijding van het bedrijf aan verantwoorde AI-ontwikkeling onder CEO Sam Altman.
Vooral Leike nam geen blad voor de mond. "De afgelopen jaren hebben veiligheidscultuur en -processen een ondergeschikte rol gespeeld ten opzichte van glanzende producten," verklaarde hij in een afscheidsschot, waarmee hij het onbehagen bevestigde van degenen die observeren OpenAIstreven naar geavanceerde AI.
Gisteren was mijn laatste dag als hoofd alignment, superalignment lead, en executive OpenAI?ref_src=twsrctfw">@OpenAI.
- Jan Leike (@janleike) 17 mei 2024
Sutskever en Leike zijn de laatste in een steeds langer wordende lijst van spraakmakende veranderingen bij OpenAI.
Sinds november 2023, wanneer Altman een couppoging in de directiekamer ternauwernood overleefde, hebben ten minste vijf andere belangrijke leden van het superalignment-team ontslag genomen of zijn weggestuurd:
- Daniel Kokotajlo, die bij OpenAI in 2022 in de hoop het bedrijf te sturen in de richting van een verantwoorde ontwikkeling van kunstmatige algemene intelligentie (AGI) - zeer capabele AI die onze eigen cognitie evenaart of overtreft - stopte in april 2024 nadat hij het vertrouwen had verloren in het vermogen van het leiderschap om "verantwoord om te gaan met AGI".
- Leopold Aschenbrenner en Pavel Izmailov, leden van het superalignment team, werden vorige maand naar verluidt ontslagen wegens het "lekken" van informatie. OpenAI heeft geen bewijs van wangedrag geleverd. Insiders speculeren dat ze het doelwit waren omdat ze bondgenoten van Sutskever waren.
- Cullen O'Keefe, een andere veiligheidsonderzoeker, vertrok in april.
- William Saunders nam ontslag in februari maar is blijkbaar gebonden aan een niet-afscheidende overeenkomst om zijn redenen te bespreken.
Amid these developments, OpenAI heeft naar verluidt gedreigd om werknemers hun aandelenrechten te ontnemen als ze het bedrijf bekritiseren of Altman zelf, volgens Vox.
Dat maakte het moeilijk om het probleem echt te begrijpen. OpenAI, but Er zijn aanwijzingen dat initiatieven op het gebied van veiligheid en afstemming mislukken, als ze überhaupt al oprecht waren.
OpenAIcontroversiële plot wordt dikker
OpenAIopgericht in 2015 door Elon Musk en Sam Musk. Altmanwas zeer toegewijd aan open-source onderzoek en verantwoorde AI-ontwikkeling.
Maar terwijl de visie van het bedrijf zich de afgelopen jaren heeft uitgebreid, heeft het zich teruggetrokken achter gesloten deuren. In 2019, OpenAI officieel overgegaan van een onderzoekslaboratorium zonder winstoogmerk naar een entiteit met "beperkte winst"Dit voedt de bezorgdheid over een verschuiving naar commercialisering in plaats van transparantie.
Sindsdien, OpenAI heeft zijn onderzoek en modellen beschermd met ijzersterke geheimhoudingsverklaringen en de dreiging van juridische stappen tegen werknemers die hun mond open durven doen.
Andere belangrijke controverses in de korte geschiedenis van de startup zijn onder andere:
- In 2019, OpenAI verbaasde de AI-gemeenschap door over te stappen van een onderzoekslaboratorium zonder winstoogmerk naar een "capped-profit" bedrijf, waarmee het duidelijk afweek van zijn oprichtingsprincipes.
- Vorig jaar doken er berichten op over bijeenkomsten achter gesloten deuren tussen OpenAI en militaire en defensieorganisaties.
- Altmanzijn grillige tweets hebben de wenkbrauwen doen fronsen, van mijmeringen over een door AI aangedreven wereldbestuur tot het toegeven aan existentiële risico's op een manier die zichzelf afschildert als de piloot van een schip dat hij al niet kan besturen.
- De ernstigste klap voor Altmanleiderschap van Sutskever tot nu toe, maakte Sutskever zelf deel uit van een mislukte coup in de directiekamer in november 2023 die de CEO wilde ontslaan. Altman erin geslaagd om zich vast te klampen aan de macht en te laten zien dat hij op zo'n manier aan het bedrijf verbonden is dat het moeilijk is om hem los te wrikken, zelfs door het bestuur zelf.
Bestuursdrama's en crises zijn niet ongewoon in Silicon Valley, OpenAIHun werk zou, zoals ze zelf toegeven, van cruciaal belang kunnen zijn voor de wereldwijde samenleving.
Het publiek, regelgevers en overheden willen een consistent, controversieloos bestuur op OpenAImaar de korte, turbulente geschiedenis van de startup suggereert iets anders.
OpenAI wordt de antiheld van generatieve AI
Terwijl leunstoeldiagnoses en karaktermoord op Altman onverantwoordelijk zijn, roepen zijn gerapporteerde geschiedenis van manipulatie en het nastreven van persoonlijke visies ten koste van medewerkers en publiek vertrouwen ongemakkelijke vragen op.
Gesprekken over Altman en zijn bedrijf zijn steeds venijniger geworden op X, Reddit en het Y Combinator-forum.
Hoewel techbazen vaak polariserend zijn, winnen ze meestal volgelingen, zoals Elon Musk laat zien onder de meer provocerende types. Anderen, zoals Microsoft CEO Satya Nadellarespect afdwingen voor hun bedrijfsstrategie en beheerste, volwassen leiderschapsstijl.
Laten we ook erkennen hoe andere AI-startups, zoals Anthropicslagen erin om een vrij laag profiel te houden ondanks hun grote prestaties in de generatieve AI-industrie. OpenAIAan de andere kant behoudt het een intense, controversiële gravitas die het in de publieke belangstelling houdt, zonder dat dit ten goede komt aan zijn imago of het imago van generatieve AI als geheel.
Uiteindelijk moeten we zeggen hoe het is. OpenAIHet patroon van geheimhouding heeft bijgedragen aan het gevoel dat het bedrijf niet langer te goeder trouw is op het gebied van AI.
IHet laat het publiek zich afvragen of generatieve AI de samenleving kan uithollen in plaats van helpen. Het zendt de boodschap uit dat het nastreven van AGI een zaak van gesloten deuren is, een spelletje gespeeld door technische elites met weinig oog voor de bredere implicaties.
De morele licenties van de techindustrie
De technologie-industrie wordt al lange tijd geplaagd door morele licenties, waarbij de voorgestelde nobelheid van de huidige bedrijfsmissie wordt gebruikt om ethische compromissen te rechtvaardigen.
Van Facebooks "move fast and break things" mantra tot Google's "don't be evil" slogan, techgiganten hebben zich herhaaldelijk beroepen op de taal van vooruitgang en sociaal welzijn terwijl ze zich bezighouden met twijfelachtige praktijken.
OpenAIDe missie om AGI te onderzoeken en ontwikkelen "voor het welzijn van de hele mensheid" nodigt misschien wel uit tot de ultieme vorm van morele licentiëring.
De belofte van een technologie die de grootste uitdagingen van de wereld kan oplossen en een tijdperk van ongekende welvaart kan inluiden, is verleidelijk. Het appelleert aan onze diepste hoop en dromen en boort het verlangen aan om een blijvende, positieve impact op de wereld achter te laten.
Maar daarin schuilt het gevaar. Als er zo veel op het spel staat en de potentiële beloningen zo groot zijn, wordt het maar al te gemakkelijk om het afsnijden van bochten, het omzeilen van ethische grenzen en het verwerpen van kritiek te rechtvaardigen in de naam van een 'groter goed' dat geen enkel individu of kleine groep kan definiëren, zelfs niet met alle financiering en onderzoek ter wereld.
Dit is de val die OpenAI dreigt te vallen. Door zichzelf te positioneren als de maker van een technologie die de hele mensheid ten goede zal komen, heeft het bedrijf zichzelf in wezen een blanco cheque gegeven om zijn visie met alle mogelijke middelen na te streven.
Wat kunnen we hieraan doen? Nou, praten is goedkoop. Robuust bestuur, voortdurende progressieve dialoog en aanhoudende druk om de praktijken in de sector te verbeteren zijn essentieel.
Wat betreft OpenAI zelf, als publieke druk en mediakritiek van OpenAI groeien, Altman's positie minder houdbaar zou kunnen worden.
Als hij weggaat of wordt afgezet, moeten we hopen dat iets positiefs het immense vacuüm opvult dat hij achterlaat.
