De RAND Corporation, een denktank die nauwe banden heeft met de financieringsnetwerken van technologiemiljardairs, met name via Open Philanthropy, speelde een cruciale rol bij het opstellen van de executive order van president Joe Biden over AI.
Volgens PoliticoDeze orde, sterk beïnvloed door effectief altruïsme, een filosofie die een datagestuurde benadering van filantropie voorstaat, introduceerde uitgebreide AI-rapportagevereisten.
De betrokkenheid van RAND heeft de aandacht getrokken vanwege de aanzienlijke financiering door groepen als Open Philanthropy, die verbonden zijn aan technologieleiders als Dustin Moskovitz. Volgens Jeffrey Hiday, woordvoerder van RAND, bestaat RAND uit "[het uitvoeren van] onderzoek en analyse van kritieke onderwerpen van de dag, [en] vervolgens [het delen] van dat onderzoek, die analyse en die expertise met beleidsmakers."
Hiervoor was uitgebreid overleg nodig over de recent uitvoerend bevelinclusief het opstellen van de definitieve documenten.
Eerder dit jaar ontving RAND Corporation meer dan $15 miljoen aan discretionaire subsidies van Open Philanthropy, bestemd voor AI- en bioveiligheidsprojecten.
Open Philanthropy, bekend om zijn effectieve altruïsme, onderhoudt zowel persoonlijke als financiële banden met AI-ondernemingen zoals Anthropic en OpenAI.
Bovendien zijn leidende figuren bij RAND verweven in de bedrijfskaders van deze AI-bedrijven in wat een relatief compacte industrie blijft in de hoogste echelons, in ieder geval in de VS.
Critici beweren dat de aandacht van de denktank voor effectief altruïsme de focus van het onderzoek kan vertroebelen en directe AI-zorgen zoals raciale vooroordelen of schending van het auteursrecht kan overschaduwen.
De dynamiek bij RAND weerspiegelt ook een bredere trend waarin effectief altruïsme bepaalt steeds meer het AI-beleid - in ieder geval in zijn verhaal. Deze beweging, die wordt voorgestaan door controversiële figuren als Sam Bankman-Fried, pleit voor het aanpakken van existentiële risico's op de lange termijn, inclusief die van geavanceerde AI, zoals de ontwikkeling van biowapens.
Deze focus is echter bekritiseerd omdat het mogelijk de belangen van technologische topbedrijven zou dienen door de aandacht af te leiden van bestaande AI-schade.
In wezen riskeert effectief altruïsme het uitstellen van onmiddellijke, praktische actie ten gunste van meer hypothetische langetermijnplannen.
OpenAI's interne strijd: altruïsme vs. commercialisering
OpenAI, aanvankelijk een non-profit, worstelt nu met het spanningsveld tussen deze altruïstische doelen en de realiteit van zakendoen en winst maken, vooral na investeringen zoals de $1 miljard van Microsoft en de recente waardering van $86 miljard.
Het was relatief eenvoudig voor OpenAI om deze filosofie te handhaven toen het nogal eenzaam aan de top van de generatieve AI-industrie stond.
Nu de concurrentie sterk is, vooral Google's Gemini Ultradie een directe bedreiging vormt voor de superioriteit van GPT-4, is het niet bepaald eenvoudig om terughoudend en voorzichtig te zijn en toch die felbegeerde positie aan de top van de AI-modellen te behouden.
De spanning bij OpenAI kwam tot een hoogtepunt door het leiderschap van CEO Sam Altman. Zijn benadering van het managen van OpenAI belichaamde het conflict tussen het technokapitalisme van Silicon Valley en het opkomende verhaal over de risico's van AI. Mensen speculeerden dat Altman veiligheid niet serieus nam bij het bedrijf, maar dit is onbevestigd gebleven.
Ondanks de bezorgdheid van bestuursleden over zijn inzet voor veiligheid en transparantie, betekende Altmans herbenoeming als CEO een cruciaal moment in de geschiedenis van het bedrijf, waarbij vragen werden opgeroepen over de invloed van effectief altruïsme en de macht van het bestuur.
De vraag is nu of de idealen van effectief altruïsme en langetermijndenken kunnen samengaan met de snelle commerciële en technologische ontwikkelingen in de AI-sector.
Regelgeving kan de waardetoevoegende activiteiten van AI beschermen
Eerder in het jaar, Luke Sernau's memo bij Google suggereerde dat de open-source AI-gemeenschap een directe uitdaging vormde voor de dominantie van alle toonaangevende AI-ontwikkelaars.
In de memo stond: "We hebben veel over onze schouders gekeken bij OpenAI. Wie bereikt de volgende mijlpaal? Wat zal de volgende stap zijn? Maar de ongemakkelijke waarheid is dat wij niet in de positie zijn om deze wapenwedloop te winnen en OpenAI ook niet. Terwijl wij aan het kibbelen waren, heeft een derde factie stilletjes onze lunch opgegeten. Ik heb het natuurlijk over open source."
Open source modellen, bijvoorbeeld LLaMA en Mistral's Mixtraldichten in hoog tempo de kloof tussen basisinnovatie en big tech.
Hoewel het wordt voorgesteld als een stap in de richting van verantwoorde AI-ontwikkeling, kan de drang naar AI-regulering door bedrijven als Google en OpenAI ook de open-source AI-gemeenschap ondermijnen, die een gedecentraliseerd alternatief biedt voor de gecentraliseerde modellen.
Natuurlijk zijn open-source modellen ook goedkoper en stellen ze bedrijven, onderzoeksinstellingen, studenten en andere gebruikers in staat om een zekere mate van eigendom en soevereiniteit in hun oplossingen in te bouwen.
Worden commerciële AI-ontwikkelaars gedreven door oprechte bezorgdheid over de veilige en ethische ontwikkeling van AI, of zijn het deels strategische manoeuvres om marktdominantie en controle over AI-innovatie te behouden?
Het snijvlak van altruïsme, politiek en commercie in de AI-industrie is uitzonderlijk complex. Naarmate AI zich verder ontwikkelt, zal het verzoenen van deze verschillende belangen de meningen blijven verdelen.
