OpenAI har tecknat ett unikt avtal med den amerikanska regeringen om att samarbeta kring forskning och utvärdering av AI-säkerhet.
På torsdagen meddelade den amerikanska Säkerhetsinstitutet för artificiell intelligenssom är en del av National Institute of Standards and Technology (NIST), meddelade att man hade nått avtal med både OpenAI och konkurrenten Anthropic.
Affären kommer när företaget enligt uppgift för samtal om att skaffa finansiering till en svindlande värdering på $100 miljarder, vilket visar hur OpenAI, trots en långsammare framstegsperiod, fortfarande i hög grad laddar framåt in i framtiden.
Partnerskapen kommer att ge regeringen tillgång till nya AI-modeller före och efter deras lansering, men det är svårt att se exakt vad detta innebär.
Det är rimligt att säga att även AI-utvecklare själva inte riktigt förstår hur deras modeller fungerar, så vad NIST har att vinna kan vara begränsat. Ändå markerar detta ett försök att fördjupa regeringens tillsyn över hemliga frontier AI-modeller.
vi är glada över att ha nått en överenskommelse med US AI Safety Institute för testning av våra framtida modeller före lansering.
Av många skäl tycker vi att det är viktigt att detta sker på nationell nivå. US måste fortsätta att leda!
- Sam Altman (@sama) 29 augusti 2024
"Säker, pålitlig AI är avgörande för teknikens positiva inverkan", säger Jason Kwon, Chief Strategy Officer på OpenAI. "Vi anser att institutet har en viktig roll att spela för att definiera USA:s ledarskap när det gäller att utveckla artificiell intelligens på ett ansvarsfullt sätt."
Elizabeth Kelly, chef för U.S. AI Safety Institute, kallade avtalen för "en viktig milstolpe i vårt arbete med att på ett ansvarsfullt sätt förvalta AI:s framtid".
Enligt överenskommelsen kommer institutet att ge OpenAI feedback om potentiella säkerhetsförbättringar av deras modeller, i nära samarbete med UK AI Safety Institute, som också har begärd tillgång till AI-modellernas inre funktioner.
Avtalen har dröjt länge i Biden-administrationens ansträngningar att reglera AI. Aefter Bidens verkställande order, som undertecknades i oktober 2023, har AI-styrningen i USA långsamt kommit igång, även om vissa skulle hävda att framstegen har lämnat mycket övrigt att önska.
Tidpunkten för avtalet är anmärkningsvärd av två skäl. För det första kommer det när OpenAI enligt uppgift för diskussioner om att höja en ny runda av finansiering som skulle värdera bolaget till över $100 miljarder kronor.
Denna astronomiska siffra motsvarar en mer än trefaldig ökning från förra årets rapporterade värdering på $29 miljarder.
Enligt källor som är bekanta med ärendet kommer riskkapitalbolaget Thrive Capital att leda rundan med en investering på $1 miljarder. Teknikjätten Microsoft, som redan är OpenAI:s största finansiär, sägs också delta i finansieringen.
För det andra är OpenAI enligt uppgift på väg att lansera en ny produkt, GPT -5, SökGPTeller någon annan iteration som involverar ett kodnamn "Projekt Jordgubbe."
Project Strawberry, som ursprungligen kallades Q*, ska enligt uppgift kombinera en AI-modell med en autonom AI-agent som kan surfa på internet.
Avgörande är att OpenAI enligt uppgift demonstrerade Strawberry för amerikanska säkerhetstjänstemän, vilket kan ha utgjort en del av det nya avtalet med AI Safety Institute och NIST.
OpenAI har varit ganska tyst, allt taget i beaktande. GPT-4o utropades som stora framsteg, men dess kronjuvel - röstchattfunktionen - har ännu inte sett massutrullning. OpenAI angav säkerhets- och regleringsbarriärer som skäl till förseningen.
Kan OpenAI ha ingått detta nya partnerskap för att undvika sådana problem i framtiden?
