RAND Corporation, en tankesmedja med djupa band till teknikmiljardärernas finansieringsnätverk, särskilt genom Open Philanthropy, spelade en avgörande roll i utarbetandet av president Joe Bidens verkställande order om AI.
Enligt uppgift från PoliticoDenna order, som var starkt influerad av effektiv altruism, en filosofi som förespråkar ett datadrivet förhållningssätt till filantropi, införde omfattande krav på AI-rapportering.
RAND:s engagemang har fått många att höja på ögonbrynen på grund av dess betydande finansiering från grupper som Open Philanthropy, som är kopplade till teknikledare som Dustin Moskovitz. Enligt RAND-talesmannen Jeffrey Hiday finns RAND för att "[bedriva] forskning och analys om dagens kritiska ämnen, [och] sedan [dela] den forskningen, analysen och expertisen med beslutsfattare."
Detta innebar omfattande samråd om nyligen utfärdad förordning, inklusive utarbetande av slutdokument.
Tidigare i år fick RAND Corporation över $15 miljoner i diskretionära bidrag från Open Philanthropy, öronmärkta för AI- och biosäkerhetsprojekt.
Open Philanthropy, som är känt för sin effektiva altruism, har både personliga och finansiella kontakter med AI-företag som Anthropic och OpenAI.
Dessutom är ledande personer på RAND sammanflätade med dessa AI-bolags företagsstrukturer i vad som fortfarande är en relativt kompakt industri på högsta nivå, åtminstone i USA.
Kritiker hävdar att tankesmedjans inriktning på effektiv altruism kan snedvrida dess forskningsfokus och överskugga omedelbara AI-problem som rasfördomar eller upphovsrättsintrång.
Dynamiken på RAND återspeglar också en bredare trend där effektiv altruism formar i allt högre grad AI-politiken - eller åtminstone ingå i dess narrativ. Denna rörelse, som förespråkas av kontroversiella personer som Sam Bankman-Fried, förespråkar att man ska ta itu med långsiktiga existentiella risker, inklusive de som avancerad AI medför, t.ex. utveckling av biovapen.
Detta fokus har dock kritiserats för att potentiellt tjäna de största teknikföretagens intressen genom att avleda uppmärksamheten från befintliga AI-skador.
I grund och botten innebär effektiv altruism att man riskerar att skjuta upp omedelbara, praktiska åtgärder till förmån för mer hypotetiska, långsiktiga planer.
OpenAI:s interna kamp: altruism kontra kommersialisering
OpenAI, ursprungligen en icke-vinstdrivandeI dag brottas bolaget med spänningen mellan dessa altruistiska mål och affärsmässiga och vinstdrivande realiteter, särskilt efter investeringar som $1 miljard från Microsoft och den senaste värderingen på $86 miljarder.
Det var relativt enkelt för OpenAI att upprätthålla denna filosofi när man var ganska ensam i toppen av den generativa AI-industrin.
Nu när konkurrensen hårdnar, i synnerhet Googles Gemini Ultrasom direkt hotar GPT-4:s överlägsenhet, är det inte särskilt lätt att vara återhållsam och försiktig och samtidigt behålla den åtråvärda positionen högst upp i högen av AI-modeller.
Spänningarna på OpenAI kulminerade med VD Sam Altmans ledarskap. Hans sätt att hantera OpenAI förkroppsligade konflikten mellan Silicon Valleys teknokapitalism och den ökande berättelsen om AI:s risker. Folk spekulerade i att Altman inte tog säkerheten på allvar på företaget, även om detta har förblivit obekräftat.
Trots styrelseledamöternas oro över hans engagemang för säkerhet och transparens innebar Altmans återinsättande som VD ett avgörande ögonblick i bolagets historia, vilket väckte frågor om inflytandet av effektiv altruism och styrelsens makt.
Frågan är nu om effektiv altruism och långsiktiga ideal kan samexistera med de snabba kommersiella och tekniska framstegen inom AI-sektorn?
Reglering kan skydda AI:s värdeskapande verksamhet
Tidigare under året, Luke Sernaus memo på Google föreslog att AI-communityn med öppen källkod utgjorde en direkt utmaning mot dominansen hos alla ledande AI-utvecklare.
I PM:et stod det: "Vi har tittat oss mycket över axeln på OpenAI. Vem kommer att korsa nästa milstolpe? Vad kommer nästa drag att vara? Men den obekväma sanningen är att vi inte är positionerade för att vinna denna kapprustning och inte heller OpenAI. Medan vi har käbblat har en tredje fraktion i tysthet ätit vår lunch. Jag talar naturligtvis om öppen källkod."
Modeller med öppen källkod, exemplifierade av Metas LLaMA och Mistrals Mixtral, minskar snabbt klyftan mellan gräsrotsinnovation och stor teknik.
Även om det framställs som ett steg mot en ansvarsfull AI-utveckling kan de krav på AI-reglering som ställs av företag som Google och OpenAI också undergräva AI-communityn med öppen källkod, som erbjuder ett decentraliserat alternativ till de centraliserade modellerna.
Modeller med öppen källkod är naturligtvis också billigare och gör det möjligt för företag, forskningsinstitut, studenter och andra användare att bygga in en viss grad av ägande och suveränitet i sina lösningar.
Drivs kommersiella AI-utvecklare av en genuin oro för AI:s säkra och etiska utveckling, eller är de delvis strategiska manövrer för att behålla marknadsdominans och kontroll över AI-innovation?
AI-branschens skärningspunkt mellan altruism, politik och handel är exceptionellt komplex. I takt med att AI utvecklas kommer det att fortsätta att råda delade meningar om hur dessa olika intressen ska förenas.
