Den siste tidens hendelser på OpenAI har satt søkelyset på ideologiene "effektiv altruisme" og dens avlegger, "langsiktighet".
Men viHva betyr egentlig disse "filosofiene"? Og hvordan påvirker de AI-politikk og -styring?
OpenAI ble opprinnelig grunnlagt som en ideell organisasjon. I 2019 ble det omgjort til et "capped" for-profit-selskap, definert som et "partnerskap mellom vår opprinnelige nonprofit-organisasjon og en ny capped profit-arm".
Når selskapet visste hva det satt på, kunne det ville tross alt ikke holde seg unna investorer og profitt for alltid.
Siden 2019 har rollen som effektiv altruisme, som OpenAIs misjon bygger på, forsvunnet.
Hva er effektiv altruisme?
Effektiv altruisme er en moderne filosofi som ble grunnlagt for ikke lenge siden av akademikere som William MacAskill og Toby Ord ved Oxford University.
Kort fortalt handler det om å maksimere den positive innvirkningen på planeten i generell forstand, definert som "å bruke bevis og fornuft for å finne ut hvordan man kan gagne andre så mye som mulig, og iverksette tiltak på grunnlag av dette".
En undergruppe av denne retningen, langsiktigheten, fokuserer på å redusere eksistensielle risikoer for å sikre fremtidige generasjoners velferd. Denne retningen springer ut av kritikken mot kortsiktige, sykliske regjeringer. Det hevdes at dagens styresett ikke legger til rette for den typen systematiske, konsekvente tiltak vi trenger for å støtte planeten vår.
OpenAI, som ble grunnlagt med høye mål om å utvikle kunstig intelligens til fordel for menneskeheten, var i tråd med disse prinsippene.
Selskapets kommersielle ekspansjon og støtten til investeringer, som $1 milliard fra Microsoft, skapte imidlertid en konflikt mellom disse altruistiske målene og praktiske forretningsbehov.
Altruistisk ideologi hos OpenAI
Dette sammenstøtet mellom ideologier nådde et bristepunktet i OpenAI.
På den ene siden står Silicon Valley-varianten av teknokapitalisme, som fremmer disruptive ideer med massiv risikokapital.
På den andre siden står den langsommere og mer forsiktige tilnærmingen som har blitt de facto-holdningen blant AI-teknologisjefer. Hva annet kan de si i møte med nasjonalt og internasjonalt press om å moderere produktene sine?
For at AI skal gjøre fremskritt, må den berolige dem som er redde for den. Selv om det finnes betydelig debatt om hvorvidt AI virkelig er farlig, gjenstår poenget at mange mennesker er bekymret.
Altman var et godt eksempel på denne dikotomien, og samtidig som han presset OpenAI i retning av å bli et teknologisk kraftsenter, advarte han også mot de eksistensielle truslene som avansert AI utgjør. Igjen, hva slags valg hadde han?
For å berolige fremhevet Altman hvordan OpenAIs struktur beskyttet selskapet fra å tråkke risikofylte stier, men gjeninnsettelsen av ham som administrerende direktør setter en stopper for det. Altman ble gjeninnsatt med makt, uavhengig av om man ser på det som en solidarisk handling eller ikke.
"På papiret hadde styret makten, det var slik Sam Altman presenterte det", sier Toby Ord, en av grunnleggerne av effektiv altruisme og medlem av Center for the Governance of AI (CAIS).
I stedet ser det ut til at en veldig stor del av makten ligger hos Altman personlig, de ansatte og Microsoft, fortsetter han.
Styrets dynamikk og utfordringer
Avskjedigelsen av Altman fra styret, der noen av styremedlemmene hadde tilknytning til bevegelsen for effektiv altruisme, truer OpenAIs evne til å fortsette å markedsføre seg som et nytt selskap med fokus på humanitære fordeler.
Styremedlemmene hevdet at Altman ikke var "oppriktig i sin kommunikasjon", men de fleste mener at han ikke tok sikkerheten på alvor.
OpenAIs nye styre, som inntil videre er bundet av de samme reglene som det gamle, vil ikke yte samme motstand mot Altman.
Løsningen på denne krisen, med Altmans tilbakekomst og omrokkering av styret, etterlater ubesvarte spørsmål om selskapets fremtidige retning og dets grunnleggende prinsipper. OpenAI er sluppet løs - Altman vil ikke bli fjernet før han er ferdig.
Det vil imidlertid være vanskelig for OpenAI å få fart på mer risikofylt AI-utvikling utelukkende på grunn av denne omrokkeringen i styret. Hvis Hvis OpenAI er for optimistiske, kan de fremskynde tiltak mot dem. De er under nøye inspeksjon av organisasjoner som FTC allerede.
Hvordan kan bedrifter forene langsiktige altruistiske filosofier med realitetene i den teknologiske og kommersielle utviklingen?
Er de to kompatible? Har de noen gang vært kompatible?
