Google, Microsoft, Anthropic og OpenAI har kunngjort dannelsen av Frontier Model Forum, et bransjeledet kollektiv som har forpliktet seg til å sikre fremtiden til "frontier"-modeller for kunstig intelligens.
Frontier Model Forum har som mål å fremme en positiv utvikling av kunstig intelligens, styrke sikkerhetsforskningen, identifisere beste praksis og skape et samarbeidsforum for kommunikasjon med publikum og interessenter.
Blogginnlegg fra Google og Microsoft fremhever at forumets medlemskap er åpent for andre AI-utviklere, men blant grunnleggerne finner vi både Google- og Microsoft-støttede oppstartsbedrifter som OpenAI og Anthropic.
Bransjesamarbeid om kunstig intelligens har vært et samtaleemne gjennom store deler av året.
Dette er blant de første konkrete bevisene vi har sett på at Microsoft og Google, i det minste, vil samarbeide om AI - det blir interessant å se om Meta, Amazon, Inflection og andre også blir med.
"Frontier-modeller", et begrep som Forumet har skapt, definerer storskala maskinlæringsmodeller som overgår kapasiteten til eksisterende modeller. Med sin kapasitet til å utføre et bredt spekter av oppgaver har disse grensemodellene åpnet nye grenser for teknologisk innovasjon, derav navnet.
Frontier-modeller kan beskrives som "generalistagenter", som er i stand til å utføre oppgaver med flere ferdigheter og på tvers av flere fagområder.
Kunngjøringen av Frontier Model Forum skjer samtidig med et økende press på AI-selskaper for å regulere seg selv, inkludert en rammeverk kunngjort av Det hvite hus som syv ledende AI-selskaper allerede har sluttet seg til: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta og Inflection.
Hva vil Frontier Model Forum gjøre?
A Blogginnlegg fra Microsoft skisserte fire viktige forskningsområder for forumet:
- Fremskritt innen AI-sikkerhetsforskningh: Forumet har til hensikt å fremme en ansvarlig utvikling av banebrytende modeller, minimere potensielle risikoer og legge til rette for uavhengige, standardiserte evalueringer av KI-evner og -sikkerhet.
- Identifisere beste praksis: Målet er å skissere og dele ansvarlig praksis for utvikling og bruk av banebrytende modeller, samt å fremme allmennhetens forståelse av AI-teknologiens natur, muligheter, begrensninger og konsekvenser.
- Fremmer samarbeid: Medlemmene har som mål å dele kunnskap om tillit og sikkerhetsrisiko med beslutningstakere, akademikere, det sivile samfunn og andre selskaper i bransjen.
- Håndtering av samfunnsutfordringer: Forumet støtter utviklingen av KI-applikasjoner for å takle noen av samfunnets største utfordringer, som klimaendringer, tidlig oppdagelse og forebygging av kreft og cybersikkerhetstrusler.
I løpet av de kommende månedene vil Frontier Model Forum etablere et rådgivende styre som skal veilede forumets strategi og prioriteringer. En arbeidsgruppe og et styre vil etablere viktige institusjonelle ordninger, inkludert vedtekter, styring og finansiering.
Forumet har også til hensikt å rådføre seg med sivilsamfunnet og myndighetene i løpet av de kommende ukene om utformingen av forumet og potensielle samarbeidsmuligheter. Dette inkluderer støtte til multilaterale initiativer som G7s Hiroshima-prosess, OECDs arbeid med risiko knyttet til kunstig intelligens og USAs og EUs handels- og teknologiråd.
Bransjeledere gir sin mening
Ledere og forskere fra alle de fire nåværende medlemmene av forumet har diskutert sin intensjon om å samarbeide om AIs fremtid.
Kent Walker, President of Global Affairs i Google & Alphabet, sier: "Vi er glade for å samarbeide med andre ledende selskaper og dele teknisk ekspertise for å fremme ansvarlig AI-innovasjon. Engasjement fra selskaper, myndigheter og sivilsamfunn vil være avgjørende for å oppfylle løftet om at AI skal komme alle til gode."
Brad Smith, viseadministrerende direktør i Microsoft, var enig med Walker. Han understreket ansvaret til selskaper som står i spissen for utviklingen av AI, og sa: "Selskaper som utvikler AI-teknologi, har et ansvar for å sørge for at den er trygg, sikker og forblir under menneskelig kontroll. Dette initiativet er et viktig skritt for å samle teknologisektoren om å utvikle AI på en ansvarlig måte og ta tak i utfordringene slik at den kommer hele menneskeheten til gode."
Anna Makanju, Vice President of Global Affairs i OpenAI, fremhevet balansen mellom fordelene og nødvendig tilsyn med avansert AI, og sa: "Avansert AI-teknologi har potensial til å gi samfunnet store fordeler, og evnen til å realisere dette potensialet krever tilsyn og styring. Det er avgjørende at AI-selskaper - særlig de som jobber med de kraftigste modellene - finner en felles plattform og fremmer gjennomtenkte og tilpasningsdyktige sikkerhetspraksiser for å sikre at de kraftige AI-verktøyene kommer flest mulig til gode. Dette er et arbeid som haster, og dette forumet er godt posisjonert til å handle raskt for å fremme AI-sikkerhet."
Dario Amodei, administrerende direktør i Anthropic, bekreftet at kunstig intelligens har potensial til å omforme verden: "Anthropic mener at kunstig intelligens har potensial til å endre hvordan verden fungerer på en grunnleggende måte. Vi gleder oss til å samarbeide med industrien, sivilsamfunnet, myndighetene og den akademiske verden for å fremme en trygg og ansvarlig utvikling av teknologien. Frontier Model Forum vil spille en viktig rolle i å koordinere beste praksis og dele forskning om sikkerhet ved bruk av avansert AI."
Teknologiselskapene ser ut til å legge grunnlaget for en ny æra med ekstremt intelligent kunstig intelligens, og utviklingen går raskt, for det var først tidligere i år at politikere fra EU og USA begynte å oppfordre til et umiddelbart industrisamarbeid.
