Google, Microsoft, Anthropic och OpenAI har meddelat att de bildar Frontier Model Forum, ett branschledda kollektiv som har åtagit sig att skydda framtiden för avancerade AI-modeller.
Frontier Model Forum syftar till att främja en positiv AI-utveckling, förbättra säkerhetsforskningen, identifiera bästa praxis och skapa en samarbetsyta för kommunikation med allmänheten och intressenter.
I blogginlägg från Google och Microsoft framhålls att forumets medlemskap är öppet för andra AI-utvecklare, men bland grundarna finns både Google- och Microsoft-stödda startup-bolagen OpenAI och Anthropic.
Samarbete mellan olika branscher kring AI har varit en snackis under en stor del av året.
Detta är bland de första konkreta bevisen vi har sett att Microsoft och Google, åtminstone, kommer att arbeta tillsammans med AI - det blir intressant att se om Meta, Amazon, Inflection och andra också ansluter sig.
"Frontier models", en term som myntats av Forumet, definierar storskaliga maskininlärningsmodeller som överskuggar kapaciteten hos befintliga modeller. Med sin kapacitet att utföra ett brett spektrum av uppgifter har dessa frontier-modeller öppnat nya gränser för teknisk innovation, därav namnet.
Frontier-modellerna kan beskrivas som "generalistagenter" som kan utföra mångsidiga, multimodala uppgifter inom många olika områden.
Tillkännagivandet av Frontier Model Forum sker samtidigt som trycket på AI-företag att självreglera ökar, bland annat genom en ramverk som tillkännagavs av Vita huset som 7 ledande AI-företag redan har anslutit sig till: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta och Inflection.
Vad kommer Frontier Model Forum att göra?
A Blogginlägg från Microsoft beskrev fyra viktiga forskningsområden för forumet:
- Förbättrad forskning om AI-säkerheth: Forumet har för avsikt att främja en ansvarsfull utveckling av avancerade modeller, minimera potentiella risker och underlätta oberoende, standardiserade utvärderingar av AI-kapacitet och säkerhet.
- Identifiera bästa praxis: Syftar till att beskriva och dela ansvarsfulla metoder för utveckling och användning av gränsmodeller, samt att främja allmänhetens förståelse för AI-teknikens natur, kapacitet, begränsningar och effekter.
- Främja samarbete: Medlemmarna strävar efter att dela kunskap om förtroende och säkerhetsrisker med beslutsfattare, akademiker, civilsamhället och andra företag i branschen.
- Hantera samhälleliga utmaningar: Forumet stöder utvecklingen av AI-tillämpningar för att hantera några av samhällets stora utmaningar, t.ex. klimatförändringar, tidig upptäckt och förebyggande av cancer samt hot mot cybersäkerheten.
Under de kommande månaderna kommer Frontier Model Forum att inrätta en rådgivande kommitté för att vägleda dess strategi och prioriteringar. En arbetsgrupp och en styrelse kommer att fastställa viktiga institutionella arrangemang, inklusive stadgar, styrning och finansiering.
Forumet har också för avsikt att under de kommande veckorna samråda med civilsamhället och regeringar om forumets utformning och potentiella samarbetsvägar. Detta inkluderar stöd till multilaterala initiativ som G7:s Hiroshimaprocess, OECD:s arbete med AI-risker och USA-EU:s handels- och teknikråd.
Branschledare ger sin syn på saken
Chefer och forskare från alla de fyra nuvarande medlemmarna i forumet har diskuterat sin avsikt att arbeta tillsammans för AI:s framtid.
Kent Walker, President of Global Affairs på Google & Alphabet, säger: "Vi är glada över att arbeta tillsammans med andra ledande företag och dela med oss av vår tekniska expertis för att främja ansvarsfull AI-innovation. Engagemang från företag, regeringar och civilsamhället kommer att vara avgörande för att uppfylla löftet om att AI ska gynna alla."
Brad Smith, Vice Chair & President på Microsoft, var inne på samma linje som Walker. Han betonade ansvaret hos de företag som går i spetsen för AI-utvecklingen och sa: "Företag som skapar AI-teknik har ett ansvar att se till att den är trygg och säker och att den förblir under mänsklig kontroll. Det här initiativet är ett viktigt steg för att föra samman tekniksektorn för att främja AI på ett ansvarsfullt sätt och ta itu med utmaningarna så att det gynnar hela mänskligheten."
Anna Makanju, Vice President of Global Affairs på OpenAI, lyfte fram balansen mellan fördelarna och den nödvändiga tillsynen av avancerad AI och sa: "Avancerad AI-teknik har potential att på ett genomgripande sätt gynna samhället, och förmågan att uppnå denna potential kräver tillsyn och styrning. Det är viktigt att AI-företag - särskilt de som arbetar med de mest kraftfulla modellerna - enas om en gemensam grund och främjar genomtänkta och anpassningsbara säkerhetsmetoder för att säkerställa att kraftfulla AI-verktyg har största möjliga nytta. Det här är ett brådskande arbete och forumet är väl positionerat för att agera snabbt för att främja AI-säkerheten."
Dario Amodei, VD för Anthropic, bekräftade AI:s potential att omforma världen och sade: "Anthropic tror att AI har potential att i grunden förändra hur världen fungerar. Vi är glada över att samarbeta med industrin, civilsamhället, myndigheter och den akademiska världen för att främja en säker och ansvarsfull utveckling av tekniken. Frontier Model Forum kommer att spela en viktig roll när det gäller att samordna bästa praxis och dela forskning om AI-säkerhet i framkant."
Teknikföretagen verkar lägga grunden för en ny era av extremt intelligenta AI:er, och utvecklingen går snabbt, eftersom det var först tidigare i år som politiker från EU och USA började uppmuntra till ett omedelbart samarbete inom industrin.
