OpenAI har inngått en unik avtale med amerikanske myndigheter om å samarbeide om forskning og evaluering av AI-sikkerhet.
Torsdag ble den amerikanske Sikkerhetsinstituttet for kunstig intelligens, en del av National Institute of Standards and Technology (NIST), kunngjorde at de hadde inngått avtaler med både OpenAI og konkurrenten Anthropic.
Avtalen kommer samtidig som selskapet angivelig er i samtaler om å skaffe finansiering til en svimlende verdivurdering på $100 milliarder kroner, noe som viser at OpenAI, til tross for en langsommere fremgangsperiode, fortsatt er på full fart inn i fremtiden.
Partnerskapene vil gi myndighetene tilgang til nye AI-modeller både før og etter at de lanseres for offentligheten, selv om det er vanskelig å se nøyaktig hva dette innebærer.
Det er rimelig å si at selv AI-utviklerne selv ikke helt forstår hvordan modellene deres fungerer, så det kan være begrenset hva NIST har å tjene på dette. Ikke desto mindre er dette et forsøk på å utdype myndighetenes tilsyn med hemmelighetsfulle AI-modeller.
Vi er glade for å ha kommet til enighet med US AI Safety Institute for testing av våre fremtidige modeller før lansering.
Vi mener av mange grunner at det er viktig at dette skjer på nasjonalt nivå. US må fortsette å lede!
- Sam Altman (@sama) 29. august 2024
"Trygg og pålitelig kunstig intelligens er avgjørende for teknologiens positive innvirkning", sier Jason Kwon, strategidirektør i OpenAI. "Vi mener at instituttet har en viktig rolle å spille når det gjelder å definere USAs lederskap innen ansvarlig utvikling av kunstig intelligens."
Elizabeth Kelly, direktør for U.S. AI Safety Institute, kalte avtalene "en viktig milepæl i arbeidet med å bidra til å forvalte fremtiden for kunstig intelligens på en ansvarlig måte".
I henhold til avtalen vil instituttet gi tilbakemeldinger til OpenAI om potensielle sikkerhetsforbedringer i modellene deres, i nært samarbeid med UK AI Safety Institute, som også har ønsket tilgang til AI-modellenes indre funksjoner.
Avtalene har vært lenge under planlegging i Biden-administrasjonens arbeid med å regulere kunstig intelligens. Atter Bidens eksekutivordre, som ble undertegnet i oktober 2023, har styringen av kunstig intelligens i USA sakte kommet i gang, selv om noen vil hevde at fremgangen har latt mye igjen å ønske.
Tidspunktet for avtalen er bemerkelsesverdig av to grunner. For det første kommer den samtidig som OpenAI angivelig er i diskusjoner om å reise en ny runde av finansiering som vil verdsette selskapet til over $100 milliarder kroner.
Dette astronomiske tallet representerer mer enn en tredobling fra fjorårets rapporterte verdivurdering på $29 milliarder.
Ifølge kilder som er kjent med saken, skal risikokapitalselskapet Thrive Capital lede runden med en investering på $1 milliard. Teknologigiganten Microsoft, som allerede er OpenAIs største støttespiller, sies også å delta i finansieringen.
For det andre er OpenAI angivelig på nippet til å lansere et nytt produkt, GPT -5, SearchGPTeller en annen iterasjon som involverer et kodenavn "Prosjekt Jordbær."
Project Strawberry, opprinnelig kalt Q*, kombinerer angivelig en AI-modell med en autonom AI-agent som er i stand til å surfe på internett.
OpenAI skal ha demonstrert Strawberry for amerikanske sikkerhetsmyndigheter, noe som kan ha vært en del av den nye avtalen med AI Safety Institute og NIST.
OpenAI har vært ganske stille, alt tatt i betraktning. GPT-4o ble omtalt som et stort fremskritt, men kronjuvelen - stemmechat-funksjonen - har ennå ikke fått noen masseutrulling. OpenAI begrunnet forsinkelsen med sikkerhetsmessige og regulatoriske barrierer.
Kan OpenAI inngå dette nye partnerskapet for å unngå slike problemer i fremtiden?
