OpenAI har underskrevet en enestående aftale med den amerikanske regering om at samarbejde om forskning i og evaluering af AI-sikkerhed.
Torsdag blev den amerikanske Institut for kunstig intelligens og sikkerhedsom er en del af National Institute of Standards and Technology (NIST), meddelte, at de havde indgået aftaler med både OpenAI og deres rival Anthropic.
Aftalen kommer på et tidspunkt, hvor virksomheden efter sigende er i forhandlinger om at skaffe finansiering til en svimlende værdiansættelse på $100 milliarder, hvilket viser, at OpenAI på trods af en langsommere periode med fremskridt stadig er på vej ind i fremtiden.
Partnerskaberne vil give regeringen intern adgang til store nye AI-modeller før og efter deres offentlige frigivelse, selvom det er svært at se præcis, hvad det går ud på.
Det er rimeligt at sige, at selv AI-udviklere ikke helt forstår, hvordan deres modeller fungerer, så det kan være begrænset, hvad NIST får ud af det. Ikke desto mindre er dette et forsøg på at uddybe myndighedernes tilsyn med hemmelighedsfulde AI-modeller i frontlinjen.
Vi er glade for at have indgået en aftale med US AI Safety Institute til test før udgivelse af vores fremtidige modeller.
Af mange grunde mener vi, at det er vigtigt, at det sker på nationalt plan. US skal fortsætte med at lede!
- Sam Altman (@sama) 29. august 2024
"Sikker og troværdig AI er afgørende for teknologiens positive indvirkning", siger Jason Kwon, strategichef hos OpenAI. "Vi mener, at instituttet har en afgørende rolle at spille, når det gælder om at definere USA's lederskab inden for ansvarlig udvikling af kunstig intelligens."
Elizabeth Kelly, direktør for U.S. AI Safety Institute, kaldte aftalerne "en vigtig milepæl, når vi arbejder på at hjælpe med at forvalte AI's fremtid på en ansvarlig måde."
I henhold til aftalen vil instituttet give feedback til OpenAI om potentielle sikkerhedsforbedringer af deres modeller i tæt samarbejde med UK AI Safety Institute, som også har... anmodet om adgang til AI-modellernes indre arbejde.
Aftalerne har været længe undervejs i Biden-administrationens bestræbelser på at regulere AI. AEfter Bidens Bekendtgørelse, der blev underskrevet i oktober 2023, er AI-styring i USA langsomt kommet op i gear, selvom nogle vil hævde, at fremskridtene har ladet meget tilbage at ønske.
Timingen af aftalen er bemærkelsesværdig af to grunde. For det første kommer den, da OpenAI efter sigende er i gang med drøftelser om at rejse en ny runde af finansiering, der ville værdiansætte virksomheden til over $100 milliarder.
Dette astronomiske tal repræsenterer en mere end tredobbelt stigning fra sidste års rapporterede værdiansættelse på $29 milliarder.
Ifølge kilder med kendskab til sagen vil venturekapitalfirmaet Thrive Capital lede runden med en investering på $1 milliard. Teknologigiganten Microsoft, som allerede er OpenAI's største bidragyder, siges også at deltage i finansieringen.
For det andet er OpenAI angiveligt på nippet til at lancere et nyt produkt, GPT -5, Søg i GPTeller en anden iteration, der involverer et kodenavn "Projekt Jordbær."
Project Strawberry, som oprindeligt hed Q*, kombinerer angiveligt en AI-model med en autonom AI-agent, der kan surfe på internettet.
Afgørende er det, at OpenAI angiveligt demonstrerede Strawberry for amerikanske sikkerhedsfolk, hvilket kan have været en del af den nye aftale med AI Safety Institute og NIST.
OpenAI har været ret stille, alt taget i betragtning. GPT-4o blev udråbt som et stort fremskridt, men dens kronjuvel - stemmechatfunktionen - er endnu ikke blevet udrullet i stor stil. OpenAI angav sikkerheds- og lovgivningsmæssige barrierer som årsag til forsinkelsen.
Måske indgår OpenAI dette nye partnerskab for at hjælpe med at undgå sådanne problemer i fremtiden?
