Google, Microsoft, Anthropic en OpenAI hebben de oprichting aangekondigd van het Frontier Model Forum, een door de industrie geleid collectief dat zich inzet om de toekomst van 'grensverleggende' AI-modellen veilig te stellen.
Het Frontier Model Forum heeft als doel om positieve AI-ontwikkeling te bevorderen, veiligheidsonderzoek te verbeteren, best practices te identificeren en een samenwerkingsverband te creëren voor communicatie met het publiek en belanghebbenden.
Blog posts van Google en Microsoft benadrukken dat het lidmaatschap van het Forum open staat voor andere AI-ontwikkelaars, maar de oprichtende leden zijn opmerkelijk omdat ze zowel door Google als door Microsoft gesteunde startups OpenAI en Anthropic bevatten.
Interindustriële samenwerking op het gebied van AI is een groot deel van het jaar een gespreksonderwerp geweest.
Dit is een van de eerste concrete bewijzen die we hebben gezien dat Microsoft en Google, op zijn minst, gaan samenwerken op het gebied van AI - het zal interessant zijn om te zien of Meta, Amazon, Inflection en anderen ook meedoen.
"Grensverleggende modellen", een term bedacht door het Forum, definiëren grootschalige machine-learning modellen die de capaciteiten van bestaande modellen overschrijden. Met hun vermogen om een breed scala aan taken uit te voeren, hebben deze grensverleggende modellen nieuwe grenzen geopend voor technologische innovatie, vandaar de naam.
Grensverleggende modellen kunnen worden omschreven als 'generalistische agenten' die in staat zijn om multigekwalificeerde, multimodale taken uit te voeren in verschillende disciplines.
De aankondiging van het Frontier Model Forum valt samen met de toenemende druk op AI-bedrijven om zichzelf te reguleren, waaronder een kader aangekondigd door het Witte Huis waarmee 7 vooraanstaande AI-bedrijven al hebben ingestemd: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta en Inflection.
Wat gaat het Frontier Model Forum doen?
A Microsoft blogbericht schetste 4 belangrijke onderzoeksgebieden voor het Forum:
- AI-veiligheidsonderzoek bevorderenh: Het Forum wil de verantwoorde ontwikkeling van grensverleggende modellen stimuleren, potentiële risico's minimaliseren en onafhankelijke, gestandaardiseerde evaluaties van AI-capaciteiten en veiligheid faciliteren.
- Beste praktijken identificeren: Gericht op het schetsen en delen van verantwoorde werkwijzen voor de ontwikkeling en toepassing van grensverleggende modellen, en op het bevorderen van begrip bij het publiek voor de aard, mogelijkheden, beperkingen en gevolgen van AI-technologie.
- Samenwerking bevorderen: De leden streven ernaar kennis over vertrouwen en veiligheidsrisico's te delen met beleidsmakers, academici, maatschappelijke organisaties en andere bedrijven in de sector.
- Maatschappelijke uitdagingen aanpakken: Het forum ondersteunt de ontwikkeling van AI-toepassingen om een aantal grote maatschappelijke uitdagingen aan te pakken, zoals klimaatverandering, vroegtijdige opsporing en preventie van kanker en bedreigingen van de cyberveiligheid.
In de komende maanden zal het Frontier Model Forum een adviesraad oprichten om de strategie en prioriteiten te bepalen. Een werkgroep en een raad van bestuur zullen cruciale institutionele regelingen treffen, waaronder een handvest, bestuur en financiering.
Het Forum wil de komende weken ook overleggen met maatschappelijke organisaties en regeringen over de opzet van het Forum en mogelijke samenwerkingsmogelijkheden. Dit omvat het ondersteunen van multilaterale initiatieven zoals het Hiroshima-proces van de G7, het werk van de OESO op het gebied van AI-risico's en de Trade and Technology Council van de VS en de EU.
Leiders uit de sector geven hun mening
Leidinggevenden en onderzoekers van alle 4 de huidige leden van het Forum hebben hun intentie om samen te werken aan de toekomst van AI besproken.
Kent Walker, President Global Affairs bij Google & Alphabet: "We zijn verheugd om samen te werken met andere toonaangevende bedrijven en technische expertise te delen om verantwoorde AI-innovatie te bevorderen. Betrokkenheid van bedrijven, overheden en maatschappelijke organisaties is essentieel om de belofte van AI waar te maken, zodat iedereen ervan kan profiteren."
Brad Smith, Vice Chair & President bij Microsoft, sloot zich aan bij Walker. Hij benadrukte de verantwoordelijkheid van bedrijven die het voortouw nemen bij de ontwikkeling van AI: "Bedrijven die AI-technologie ontwikkelen hebben de verantwoordelijkheid om ervoor te zorgen dat deze veilig is en onder menselijke controle blijft. Dit initiatief is een belangrijke stap om de techsector samen te brengen in het verantwoord bevorderen van AI en het aanpakken van de uitdagingen, zodat de hele mensheid er baat bij heeft."
Anna Makanju, Vice President of Global Affairs bij OpenAI, benadrukte de balans tussen de voordelen en het noodzakelijke toezicht op geavanceerde AI: "Geavanceerde AI-technologieën hebben de potentie om de samenleving enorm te verbeteren, maar de mogelijkheid om dit potentieel te benutten vereist toezicht en governance. Het is van vitaal belang dat AI-bedrijven - vooral degenen die werken aan de krachtigste modellen - op één lijn komen te zitten en doordachte en aanpasbare veiligheidspraktijken bevorderen om ervoor te zorgen dat krachtige AI-instrumenten zoveel mogelijk voordelen opleveren. Dit is dringend werk en dit forum bevindt zich in een goede positie om snel te handelen om de staat van AI-veiligheid te bevorderen."
Dario Amodei, CEO van Anthropic, bevestigde het potentieel van AI om de wereld te veranderen: "Anthropic gelooft dat AI het potentieel heeft om de manier waarop de wereld werkt fundamenteel te veranderen. We zijn verheugd om samen te werken met de industrie, het maatschappelijk middenveld, de overheid en de academische wereld om een veilige en verantwoorde ontwikkeling van de technologie te bevorderen. Het Frontier Model Forum zal een vitale rol spelen bij het coördineren van best practices en het delen van onderzoek naar AI-veiligheid aan de grens."
Technologiebedrijven lijken de basis te leggen voor een nieuw tijdperk van extreem intelligente AI's en de ontwikkelingen gaan snel, want pas eerder dit jaar begonnen politici uit de EU en de VS onmiddellijke samenwerking tussen de industrie aan te moedigen.
