Beslutet att avskeda Sam Altam kan ha påverkats av de effektiva altruistiska ideal som OpenAI:s styrelseledamöter delar. Tillförordnad VD Emmett Shear delar med sig av några av deras farhågor om AI.
I stora drag innebär begreppet Effective Altruism (EA) att man tar sig an världens mest akuta problem och vidtar logiska åtgärder för att maximera de positiva resultaten för mänskligheten.
När det gäller AI-området är det många av förespråkarna för EA som slår larm om den halsbrytande utvecklingstakten och de potentiella existentiella riskerna för mänskligheten.
På andra sidan spektrumet finns Effective Accelerationists (e/acc) som säger att AI inte kommer att döda oss alla och att vi borde röra oss snabbare.
Åtminstone hälften av OpenAI:s nuvarande styrelseledamöter verkar helt och hållet stå på EA:s sida och deras AI-rädsla kan ha legat bakom den senaste utvecklingen på företaget.
Helen Toner var tidigare chef för Effective Altruism Melbourne, och Tasha McCauley sitter i styrelsen för Effective Ventures som driver Centre For Effective Altruism.
Ange Emmett Shear
I en podcast nyligen uttryckte Emmett Shear, OpenAI:s tredje VD på nästan lika många dagar, sitt stöd för de åsikter som EA:s AI-domsprofeter har.
Emmett Shear, den nya VD:n för OpenAI, i en podcast nyligen.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 november 2023
Shear är också ett fan av AI-forskaren Eliezer Yudkowsky, som skrev en Harry Potter-fanfictionroman som förespråkar rationellt och vetenskapligt tänkande. Harry Potter and the Methods of Rationality (HPMOR) är populär bland EA och används i rekryteringsarbetet.
I kapitel 104 i den 660.000 ord långa romanen skriver Yudowsky om en sökare vid namn Emmett Shear som faller av en kvast under en Quidditch-match.
Om Shear delar de mer extrema åsikter som Yudowsky har om AI-säkerhet kan vi förvänta oss att OpenAI drar i bromsen mer.
Tidigare i år undertecknade teknikledare som Elon Musk och Emad Mostaque tillsammans med tusentals andra ett öppet brev där de krävde en 6-månaders paus i AI-utvecklingen. Yudowsky vägrade att underteckna brevet och menade att det "underskattar situationens allvar och ber om för lite för att lösa den".
I ett brev publicerad i Time Yudowsky menade att AI-utvecklingen borde avstanna helt, annars "kommer bokstavligen alla på jorden att dö".
I sitt brev var Yudowsky tydlig med sina åsikter och sa: "Om någon bygger en alltför kraftfull AI, under nuvarande förhållanden, förväntar jag mig att varenda medlem av den mänskliga arten och allt biologiskt liv på jorden dör kort därefter."
Vi vet att Shear håller med om några av dessa känslor. I klippet ovan säger Shear: "Jag vet att Eliezer tycker att vi alla är dömda säkert. Jag köper hans undergångsargument. Jag köper kedjan och logiken."
Kommer EA att rädda oss och döma OpenAI till undergång?
De flesta hörde nog först talas om effektiv altruism när den vanärade FTX-grundaren Sam Bankman Fried dök upp på scenen. Han hävdade att principerna för EA låg bakom hans önskan att tjäna mycket pengar för att göra mycket gott.
Hans exempel visar att människor som har en stark önskan att göra en positiv skillnad inte är immuna mot att fatta mycket dumma beslut.
Om OpenAI:s styrelse fortsätter att prioritera EA:s principer är det svårt att se hur Sam Altman skulle kunna driva AGI och lönsamhet om och när han blir omvald.
Om styrelsen modererar sina åsikter och lyssnar på e/acc-förespråkare som datavetare Yann LeCunså kan OpenAI fortfarande vara ett genomförbart projekt.
Mark Zuckerberg uppmuntrade sina ingenjörer att "röra sig snabbt och förstöra saker". Altman kanske delar den synen på AI-utveckling, men det gör uppenbarligen inte OpenAI:s nuvarande ledning.
