De beslissing om Sam Altam te ontslaan kan zijn beïnvloed door de effectieve altruïstische idealen die worden gedeeld door de bestuursleden van OpenAI. Interim CEO Emmett Shear deelt enkele van hun angsten voor AI.
In grote lijnen komt het concept van Effectief Altruïsme (EA) erop neer dat je de meest dringende problemen in de wereld aanpakt en logische actie onderneemt om de positieve resultaten voor de mensheid te maximaliseren.
Toegepast op de AI-ruimte luiden veel voorstanders van EA de noodklok over de razendsnelle ontwikkeling en de potentiële existentiële risico's voor de mensheid.
Aan de andere kant van het spectrum staan de Effective Accelerationists (e/acc) die zeggen dat AI ons niet allemaal zal doden en dat we sneller moeten gaan.
Minstens de helft van de huidige bestuursleden van OpenAI lijkt vierkant aan de kant van EA te staan en hun AI-vrees kan aan de basis hebben gelegen van de angst van EA voor AI. recente ontwikkelingen bij het bedrijf.
Helen Toner stond vroeger aan het hoofd van Effective Altruism Melbourne en Tasha McCauley zit in het bestuur van Effective Ventures dat het Centre For Effective Altruism runt.
Enter Emmett Shear
In een recente podcast sprak Emmett Shear, de derde CEO van OpenAI in bijna evenveel dagen, zijn steun uit voor de standpunten van de onheilsprofeten van EA.
Emmett Shear, de nieuwe CEO van OpenAI tijdens een recente podcast.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 november 2023
Shear is ook een fan van AI-onderzoeker Eliezer Yudkowsky, die een Harry Potter fanfictieroman schreef die rationeel en wetenschappelijk denken propageert. Harry Potter and the Methods of Rationality (HPMOR) is populair onder de EA-gemeenschap en wordt gebruikt bij de wervingsacties.
In hoofdstuk 104 van de 660.000 woorden tellende roman schrijft Yudowsky over een Zoeker genaamd Emmett Shear die van een bezemsteel valt tijdens een Zwerkbalwedstrijd.
Als Shear de extremere standpunten deelt die Yudowsky heeft over AI-veiligheid, dan kunnen we meer op de rem gaan staan bij OpenAI.
Eerder dit jaar sloten technologieleiders als Elon Musk en Emad Mostaque zich aan bij duizenden ondertekenaars van een open brief waarin werd opgeroepen tot een pauze van 6 maanden in de ontwikkeling van AI. Yudowsky weigerde de brief te ondertekenen en zei dat hij "de ernst van de situatie onderschatte en te weinig vroeg om het op te lossen".
In een brief gepubliceerd in Time Yudowsky zei dat de ontwikkeling van AI volledig moet stoppen omdat anders "letterlijk iedereen op aarde zal sterven".
In zijn brief was Yudowsky ondubbelzinnig over zijn mening: "Als iemand een te krachtige AI bouwt, onder de huidige omstandigheden, verwacht ik dat elk lid van de menselijke soort en al het biologische leven op aarde kort daarna sterft."
We weten dat Shear het eens is met sommige van deze gevoelens. In de clip hierboven zegt Shear: "Ik weet dat Eliezer denkt dat we allemaal zeker gedoemd zijn. Ik geloof zijn doemargument. Ik koop de ketting en de logica."
Zal EA ons redden en OpenAI verdoemen?
De meeste mensen hoorden waarschijnlijk voor het eerst over effectief altruïsme toen de in ongenade gevallen FTX-oprichter Sam Bankman Fried ten tonele verscheen. Hij beweerde dat de principes van EA ten grondslag lagen aan zijn wens om veel geld te verdienen om veel goeds te doen.
Zijn voorbeeld laat zien dat mensen met een sterk verlangen om een positief verschil te maken niet immuun zijn voor het maken van hele domme beslissingen.
Als het OpenAI bestuur prioriteit blijft geven aan de principes van EA dan is het moeilijk te zien hoe Sam Altman AGI en winstgevendheid zou kunnen nastreven als en wanneer hij herbenoemd wordt.
Als het bestuur zijn standpunten matigt en luistert naar e/acc-voorstanders zoals computerwetenschapper Yann LeCundan kan OpenAI nog steeds een levensvatbaar project zijn.
Mark Zuckerberg heeft zijn ingenieurs ooit aangemoedigd om "snel te bewegen en dingen kapot te maken". Altman deelt misschien die visie op AI-ontwikkeling, maar de huidige leiders van OpenAI duidelijk niet.
