Google, Microsoft, Anthropic og OpenAI har annonceret dannelsen af Frontier Model Forum, et industriledet kollektiv, der har forpligtet sig til at sikre fremtiden for 'frontier' AI-modeller.
Frontier Model Forum har til formål at fremme en positiv AI-udvikling, forbedre sikkerhedsforskningen, identificere bedste praksis og skabe et samarbejdsforum for kommunikation med offentligheden og interessenter.
Blogindlæg fra Google og Microsoft fremhæver, at forummets medlemskab er åbent for andre AI-udviklere, men de stiftende medlemmer omfatter både Google- og Microsoft-støttede startups OpenAI og Anthropic.
Samarbejde på tværs af brancher om kunstig intelligens har været et samtaleemne en stor del af året.
Dette er et af de første konkrete beviser, vi har set på, at Microsoft og Google i det mindste vil arbejde sammen om AI - det bliver interessant at se, om Meta, Amazon, Inflection og andre også vil være med.
"Grænsemodeller", et udtryk opfundet af forummet, definerer store maskinlæringsmodeller, der overskygger eksisterende modellers kapacitet. Med deres kapacitet til at udføre en bred vifte af opgaver har disse frontier-modeller åbnet nye grænser for teknologisk innovation, deraf navnet.
Frontier-modeller kan beskrives som "generalist-agenter", der er i stand til at udføre multikompetente, multimodale opgaver på tværs af mange discipliner.
Annonceringen af Frontier Model Forum sker samtidig med et stigende pres på AI-virksomheder for at regulere sig selv, herunder en rammer annonceret af Det Hvide Hus som 7 førende AI-virksomheder allerede har tilsluttet sig: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta og Inflection.
Hvad vil Frontier Model Forum gøre?
A Microsofts blogindlæg skitserede 4 centrale forskningsområder for forummet:
- Fremme af forskning i AI-sikkerhedh: Forummet har til hensigt at fremme den ansvarlige udvikling af avancerede modeller, minimere potentielle risici og lette uafhængige, standardiserede evalueringer af AI-kapaciteter og -sikkerhed.
- Identificering af bedste praksis: Målrettet mod at skitsere og dele ansvarlig praksis for udvikling og implementering af frontier-modeller samt fremme offentlighedens forståelse af AI-teknologiens natur, muligheder, begrænsninger og konsekvenser.
- Fremme af samarbejde: Medlemmerne har til formål at dele viden om tillid og sikkerhedsrisici med politiske beslutningstagere, akademikere, civilsamfundet og andre virksomheder i branchen.
- Håndtering af samfundsmæssige udfordringer: Forummet støtter udviklingen af AI-applikationer til at tackle nogle af samfundets største udfordringer, som f.eks. klimaforandringer, tidlig opdagelse og forebyggelse af kræft og cybersikkerhedstrusler.
I de kommende måneder vil Frontier Model Forum nedsætte et rådgivende udvalg, der skal vejlede om strategi og prioriteter. En arbejdsgruppe og en bestyrelse vil etablere vigtige institutionelle ordninger, herunder et charter, ledelse og finansiering.
Forummet har også til hensigt at rådføre sig med civilsamfundet og regeringer i de kommende uger om forummets udformning og potentielle samarbejdsmuligheder. Det omfatter støtte til multilaterale initiativer som G7's Hiroshima-proces, OECD's arbejde med AI-risici og USA's og EU's handels- og teknologiråd.
Branchens ledere giver deres besyv med
Ledere og forskere fra alle fire nuværende medlemmer af forummet har diskuteret deres hensigt om at arbejde sammen om AI's fremtid.
Kent Walker, President of Global Affairs hos Google & Alphabet, sagde: "Vi er glade for at arbejde sammen med andre førende virksomheder og dele teknisk ekspertise for at fremme ansvarlig AI-innovation. Engagement fra virksomheder, regeringer og civilsamfund vil være afgørende for at opfylde løftet om, at AI skal komme alle til gode."
Brad Smith, Vice Chair & President hos Microsoft, var enig med Walker. Han understregede det ansvar, som virksomheder, der står i spidsen for AI-udvikling, har, og sagde: "Virksomheder, der skaber AI-teknologi, har et ansvar for at sikre, at den er tryg og sikker og forbliver under menneskelig kontrol. Dette initiativ er et vigtigt skridt for at bringe teknologisektoren sammen om at fremme AI på en ansvarlig måde og tackle udfordringerne, så det kommer hele menneskeheden til gode."
Anna Makanju, Vice President of Global Affairs hos OpenAI, fremhævede balancen mellem fordelene og det nødvendige tilsyn med avanceret AI og sagde: "Avancerede AI-teknologier har potentiale til at være til stor gavn for samfundet, og evnen til at opnå dette potentiale kræver tilsyn og styring. Det er afgørende, at AI-virksomheder - især dem, der arbejder på de mest kraftfulde modeller - finder fælles fodslag og fremmer en gennemtænkt og tilpasningsdygtig sikkerhedspraksis for at sikre, at kraftfulde AI-værktøjer har den bredest mulige fordel. Dette er et presserende arbejde, og dette forum er godt positioneret til at handle hurtigt for at fremme AI-sikkerheden."
Dario Amodei, CEO for Anthropic, bekræftede AI's potentiale til at omforme verden og sagde: "Anthropic mener, at AI har potentiale til fundamentalt at ændre, hvordan verden fungerer. Vi glæder os til at samarbejde med industrien, civilsamfundet, regeringen og den akademiske verden for at fremme en sikker og ansvarlig udvikling af teknologien. Frontier Model Forum vil spille en vigtig rolle i koordineringen af bedste praksis og deling af forskning i sikkerhed i forbindelse med kunstig intelligens."
Det ser ud til, at teknologivirksomhederne er ved at lægge grunden til en ny æra med ekstremt intelligent kunstig intelligens, og det går hurtigt, for det var først tidligere i år, at politikere fra EU og USA begyndte at opfordre til et øjeblikkeligt samarbejde i industrien.
