RAND Corporation, en tenketank med dype bånd til teknologimilliardærenes finansieringsnettverk, særlig gjennom Open Philanthropy, spilte en avgjørende rolle i utarbeidelsen av president Joe Bidens dekret om kunstig intelligens.
Ifølge PoliticoDenne ordren, som var sterkt påvirket av effektiv altruisme, en filosofi som tar til orde for en datadrevet tilnærming til filantropi, innførte omfattende krav til AI-rapportering.
RANDs engasjement har hevet øyenbrynene på grunn av sin betydelige finansiering fra grupper som Open Philanthropy, knyttet til teknologiledere som Dustin Moskovitz. Ifølge Jeffrey Hiday, talsperson for RAND, eksisterer RAND for å "[gjennomføre] forskning og analyse om dagens kritiske temaer, [og] deretter [dele] denne forskningen, analysen og ekspertisen med beslutningstakere."
Dette innebar omfattende rådgivning om nylig utstedt Executive Order, inkludert utarbeidelse av de endelige dokumentene.
Tidligere i år mottok RAND Corporation over $15 millioner i skjønnsmessige bevilgninger fra Open Philanthropy, øremerket til prosjekter innen kunstig intelligens og biosikkerhet.
Open Philanthropy, som er kjent for sin effektive altruistiske tilnærming, har både personlige og finansielle forbindelser med AI-bedrifter som Anthropic og OpenAI.
Ledende personer ved RAND er dessuten innvevd i rammeverket til disse AI-selskapene i det som fortsatt er en relativt kompakt bransje på høyeste nivå, i hvert fall i USA.
Kritikere hevder at tenketankens fokus på effektiv altruisme kan føre til at forskningen blir skjev og overskygger umiddelbare AI-problemer som rasisme eller brudd på opphavsretten.
Dynamikken ved RAND gjenspeiler også en bredere trend der effektiv altruisme former i økende grad AI-politikken - i det minste inn i dens narrativ. Denne bevegelsen, som frontes av kontroversielle skikkelser som Sam Bankman-Fried, tar til orde for å håndtere langsiktige eksistensielle risikoer, inkludert de som avansert kunstig intelligens utgjør, som for eksempel utviklingen av biovåpen.
Dette fokuset har imidlertid blitt kritisert for å kunne tjene de største teknologiselskapenes interesser ved å avlede oppmerksomheten fra eksisterende AI-skader.
Effektiv altruisme innebærer at man risikerer å utsette umiddelbare, praktiske handlinger til fordel for mer hypotetiske, langsiktige planer.
OpenAIs interne kamp: altruisme vs. kommersialisering
OpenAI, opprinnelig en ideell organisasjon, sliter nå med spenningen mellom disse altruistiske målene og realitetene i forretningsvirksomhet og profitt, spesielt etter investeringer som de $1 milliardene fra Microsoft og den nylige verdsettelsen på $86 milliarder.
Det var relativt enkelt for OpenAI å opprettholde denne filosofien da de var ganske ensomme på toppen av den generative AI-industrien.
Nå som konkurransen er på vei inn, spesielt Googles Gemini Ultrasom direkte truer GPT-4s overlegenhet, er det ikke spesielt lett å utvise tilbakeholdenhet og forsiktighet og samtidig beholde den ettertraktede posisjonen på toppen av haugen av AI-modeller.
Spenningen i OpenAI tilspisset seg under administrerende direktør Sam Altmans ledelse. Hans måte å lede OpenAI på var et uttrykk for konflikten mellom Silicon Valleys teknokapitalisme og den økende fortellingen om risikoen ved kunstig intelligens. Det ble spekulert i om Altman ikke tok sikkerheten i selskapet på alvor, men dette har ikke blitt bekreftet.
Til tross for styremedlemmenes bekymring for hans engasjement for sikkerhet og åpenhet, markerte Altmans gjeninnsettelse som administrerende direktør et avgjørende øyeblikk i selskapets historie, og reiste spørsmål om innflytelsen fra effektiv altruisme og styrets makt.
Spørsmålet er nå om effektiv altruisme og langsiktige idealer kan sameksistere med den raske kommersielle og teknologiske utviklingen i AI-sektoren.
Regulering kan sikre AIs verdiskapende aktiviteter
Tidligere i år, Luke Sernaus notat hos Google antydet at open source AI-fellesskapet utgjorde en direkte utfordring for dominansen til alle de ledende AI-utviklerne.
I notatet sto det: "Vi har sett oss mye over skuldrene i OpenAI. Hvem vil krysse neste milepæl? Hva vil det neste trekket være? Men den ubehagelige sannheten er at vi ikke er i posisjon til å vinne dette våpenkappløpet, og det er heller ikke OpenAI. Mens vi har kranglet, har en tredje fraksjon i det stille spist lunsjen vår. Jeg snakker selvfølgelig om åpen kildekode."
Modeller med åpen kildekode, eksemplifisert ved Metas LLaMA og Mistrals Mixtraler i ferd med å tette gapet mellom grasrotinnovasjon og big tech.
Selv om det presenteres som et skritt i retning av ansvarlig AI-utvikling, kan presset for AI-regulering fra selskaper som Google og OpenAI også undergrave AI-fellesskapet med åpen kildekode, som tilbyr et desentralisert alternativ til de sentraliserte modellene.
Modeller med åpen kildekode er selvsagt også billigere og gjør det mulig for bedrifter, forskningsinstitusjoner, studenter og andre brukere å bygge inn en viss grad av eierskap og suverenitet i løsningene sine.
Drives kommersielle AI-utviklere av en genuin bekymring for en trygg og etisk utvikling av AI, eller er de delvis strategiske manøvrer for å opprettholde markedsdominans og kontroll over AI-innovasjon?
AI-industriens skjæringspunkt mellom altruisme, politikk og handel er usedvanlig komplekst. Etter hvert som KI gjør fremskritt, vil det fortsatt være delte meninger om hvordan disse ulike interessene skal forenes.
