Big Tech AI-selskaper lanserer $10 millioner i AI Safety Fund

25. oktober 2023

Generativ AI

Anthropic, Google, Microsoft og OpenAI lanserte Frontier Model Forum i juli, og har nå bevilget $10 millioner til et AI Safety Fund for å støtte initiativet.

Frontier Model Forum ble opprettet med det formål å fastsette sikkerhetsstandarder for kunstig intelligens og evaluere frontier-modeller for å sikre en ansvarlig utvikling. Det ser ut til at gruppen endelig kan komme i gang med arbeidet, ettersom de kunngjort Chris Meserole som første administrerende direktør

Meserole har solide AI-meritter etter nylig å ha vært direktør for Artificial Intelligence and Emerging Technology Initiative ved Brookings Institution.

I en uttalelse om utnevnelsen sa Meserols: "De kraftigste AI-modellene har et enormt potensial for samfunnet, men for å realisere dette potensialet må vi forstå bedre hvordan vi kan utvikle og evaluere dem på en trygg måte. Jeg gleder meg til å ta fatt på den utfordringen sammen med Frontier Model Forum."

Forumets oppgave er å:

  • Fremme forskning på KI-sikkerhet for å fremme ansvarlig utvikling av banebrytende modeller og minimere potensielle risikoer
  • Identifisere beste praksis for sikkerhet for frontier-modeller
  • Dele kunnskap med beslutningstakere, akademikere, sivilsamfunnet og andre for å fremme ansvarlig AI-utvikling
  • Støtt arbeidet med å utnytte kunstig intelligens for å løse samfunnets største utfordringer.

AI Safety Fund ble opprettet for å finansiere initiativet med et startbeløp på $10 millioner fra Anthropic, Google, Microsoft og OpenAI, i tillegg til noen andre filantroper.

Et av de uttalte hovedmålene til Frontier Model Forum er "samarbeid på tvers av sektorer". Noe som kan hemme ambisjonene om samarbeid, er det påfallende fraværet av Meta.

Tidligere i år undertegnet forumet frivillige AI-forpliktelser i Det hvite hus. Selv uten Meta kan det likevel være tilstrekkelig tyngde bak gruppen til å fastsette AI-standarder som kan bli tatt i bruk i større grad.

Det gjenstår å se hvordan disse standardene til slutt vil bli innlemmet i lovgivningen. Med uenighet rundt viktige områder som opplæringsdata eller potensielle risikoer forbundet med modeller med åpen kildekodeblir det vanskelig å oppnå konsensus.

Bli med i fremtiden


ABONNER I DAG

Tydelig, kortfattet og omfattende. Få et grep om AI-utviklingen med DagligAI

Eugene van der Watt

Eugene har bakgrunn som elektroingeniør og elsker alt som har med teknologi å gjøre. Når han tar en pause fra AI-nyhetene, finner du ham ved snookerbordet.

×

GRATIS PDF EKSKLUSIV
Hold deg i forkant med DailyAI

Meld deg på vårt ukentlige nyhetsbrev og få eksklusiv tilgang til DailyAIs nyeste e-bok: "Mastering AI Tools: Din 2024-guide til økt produktivitet".

*Ved å abonnere på vårt nyhetsbrev aksepterer du vår Retningslinjer for personvern og vår Vilkår og betingelser