Recente gebeurtenissen bij OpenAI hebben de ideologieën van "effectief altruïsme" en zijn uitloper, "langetermijndenken", onder de aandacht gebracht.
Maar wWat betekenen deze 'filosofieën' eigenlijk? En hoe beïnvloeden ze de AI-politiek en het bestuur?
OpenAI werd aanvankelijk opgericht als non-profit. Daarna, in 2019, werd het een "afgetopte" for-profit, gedefinieerd als een "partnerschap tussen onze oorspronkelijke non-profit en een nieuwe afgetopte profit tak".
Toen het bedrijf eenmaal wist waar het aan toe was, kon het toch niet voor altijd weg zou blijven van investeerders en winst maken.
Sinds 2019 is de rol van effectief altruïsme, dat de missie van OpenAI ondersteunde, vervaagd.
Wat is effectief altruïsme?
Effectief altruïsme is een moderne filosofie die nog niet zo lang geleden is opgericht door academici van de Universiteit van Oxford, zoals William MacAskill en Toby Ord.
In een notendop probeert het de positieve impact op de planeet in algemene zin te maximaliseren, gedefinieerd als "bewijs en rede gebruiken om uit te zoeken hoe anderen er zoveel mogelijk baat bij hebben en op basis daarvan actie ondernemen".
Het langetermijndenken richt zich op het verminderen van existentiële risico's om het welzijn van toekomstige generaties te garanderen. Dit is ontstaan uit kritiek op kortzichtige, cyclische regeringen. Het stelt dat het huidige bestuur niet geschikt is voor het soort systematische, consistente actie dat we nodig hebben om onze planeet te ondersteunen.
OpenAI, opgericht met het verheven doel om AI te ontwikkelen ten voordele van de mensheid, sloot zich aan bij deze principes.
De commerciële expansie van het bedrijf en de steun voor investeringen, zoals de $1 miljard van Microsoft, creëerden echter een conflict tussen deze altruïstische doelen en praktische zakelijke behoeften.
Altruïstische ideologie bij OpenAI
Deze botsing van ideologieën bereikte een breekpunt binnen OpenAI.
Aan de ene kant staat het technokapitalisme van Silicon Valley, dat ontwrichtende ideeën verdedigt met massaal durfkapitaal.
Aan de andere kant is er de langzamere en meer voorzichtige aanpak die de facto de houding is geworden van AI-tech bazen. Wat kunnen ze anders zeggen tegen de nationale en internationale druk om hun producten zorgvuldig te matigen?
Wil AI vooruitgang boeken, dan moet het degenen die er bang voor zijn tevreden stellen. Hoewel er aanzienlijk debat over de vraag of AI echt gevaarlijk is, blijft het punt dat veel mensen zich zorgen maken.
Deze dichotomie werd belichaamd door Altman, die OpenAI naar een technologische krachtcentrale duwde, maar ook waarschuwde voor de existentiële bedreigingen van geavanceerde AI. Nogmaals, welke keuze had hij?
Ter geruststelling benadrukte Altman hoe de structuur van OpenAI het bedrijf beschermde tegen het betreden van riskantere paden, maar zijn heraanstelling als CEO zet daar een streep door. Altman werd met geweld herplaatst, of je dat nu als een oprechte daad van solidariteit beschouwt of niet.
"Op papier had het bestuur de macht, zo stelde Sam Altman het voor", zegt Toby Ord, een van de oprichters van effectief altruïsme en lid van het Center for the Governance of AI (CAIS).
Hij vervolgde: "In plaats daarvan lijkt een zeer groot deel van de macht te liggen bij Altman persoonlijk, en de werknemers en Microsoft."
Bestuursdynamiek en uitdagingen
Het ontslag van Altman door bestuursleden, van wie sommigen banden hadden met de effectieve altruïsme beweging, bedreigt OpenAI's vermogen om zichzelf te blijven vermarkten als een nieuw bedrijf dat zich richt op humanitaire voordelen.
Bestuursleden beweerden dat Altman niet "openhartig was in zijn communicatie", maar de meesten geloven dat hij de veiligheid niet serieus nam.
Het nieuwe bestuur van OpenAI is voorlopig gebonden aan dezelfde regels als het oude, maar zal niet dezelfde weerstand bieden aan Altman.
De oplossing van deze crisis, met de terugkeer van Altman en de herschikking van het bestuur, laat onbeantwoorde vragen over de toekomstige richting van het bedrijf en zijn grondbeginselen. OpenAI is ontketend - Altman zal niet worden verwijderd voordat hij klaar is.
Het zal echter moeilijk worden voor OpenAI om meer risicovolle AI-ontwikkelingen te versnellen, alleen vanwege deze herschikking van het bestuur. Als OpenAI is te optimistisch, ze zouden actie tegen hen kunnen bespoedigen. Ze worden nauwlettend in de gaten gehouden door organisaties zoals de FTC al.
Hoe kunnen bedrijven altruïstische filosofieën voor de lange termijn in overeenstemming brengen met de realiteit van technologische en commerciële vooruitgang?
Zijn de twee verenigbaar? Waren ze ooit verenigbaar?
