Een AI-bedrijf genaamd VERSES maakte een gedurfd statement met een billboard dat het buiten het hoofdkantoor van OpenAI in San Francisco plaatste. Op het billboard stond de tekst: "Heb je AGI? Zou je dat willen?"
Samen met het billboard publiceerde VERSES een open brief aan OpenAI in The New York Times. De brief nodigt OpenAI uit om samen te werken aan wat volgens VERSES de meest veelbelovende weg is naar Artificial General Intelligence (AGI).
Het VERSES AI Research Lab wordt geleid door de bekende Britse neurowetenschapper Dr. Karl Friston, die ook hoogleraar beeldvormende neurowetenschappen is aan het University College in Londen.
In de brief zegt Gabriel René, CEO van VERSES, dat hoewel basismodellen, zoals GPT-4, verbazingwekkende vooruitgang hebben geboekt "ze niet zullen leiden tot AGI die aanpasbaar, veilig of duurzaam is".
AGI, een AI die kan begrijpen, leren en zijn kennis net zo efficiënt en flexibel kan toepassen als een mens, is het verklaarde doel van OpenAI. Tijdens het Hawking Fellowship Award evenement aan de Universiteit van Cambridge vorige maand zei OpenAI CEO Sam Altman: "We hebben nog een doorbraak nodig" om AGI te bereiken.
VERSES beweert dat zijn Active Inference-aanpak voor het maken van intelligente agenten die doorbraak betekent.
In de brief wordt OpenAI opgeroepen om de belofte na te komen die het doet in zijn handvest, waarin staat dat "als een op waarden afgestemd, veiligheidsbewust project in de buurt komt van het bouwen van AGI voordat wij dat doen, dan verplichten we ons om niet langer te concurreren met dit project en het te assisteren".
Het is onduidelijk of iemand bij VERSES heeft geprobeerd OpenAI te bellen voordat hij de open brief en het billboard ging gebruiken. Misschien waren Sam's DM's uitgeschakeld. Tot nu toe is er geen commentaar van OpenAI of Altman.
VERSES identificeert nieuw pad naar AGI en nodigt OpenAI uit tot samenwerking via open brief @nytimes. https://t.co/s1JU4rrYM8 pic.twitter.com/KZxn1D7qOe
- helloVERSES (@helloVERSES) 19 december 2023
Actieve conclusie en vrije energie
VERSES zegt dat in het streven naar AGI, deep learning niet genoeg is. Friston en zijn onderzoeksteam ontwikkelden een alternatieve aanpak, die bekend staat als Active Inference. VERSES zegt dat Active Inference "gebaseerd is op eerste principes en geleid wordt door de blauwdruk van de natuur voor intelligentie in biologische systemen".
In 2022 publiceerden Friston en een lange lijst vooraanstaande academici onderzoekspapers over Ecosystemen van intelligentie ontwerpen vanuit eerste principes en Het vrije-energieprincipe voor perceptie en actie: Een diep lerend perspectief.
Professor Cathy Price, directeur van de Wellcome-centrum voor menselijke neuroimagingwordt in beide artikelen genoemd. Ze zegt dat het onderzoekscentrum, waar Friston wetenschappelijk directeur is, zijn "expertise gebruikt om te onderzoeken hoe het menselijk brein gedrag, gedachten en gevoelens genereert".
Dit onderzoek vormt de basis van de ontwikkelingen die VERSES zegt te hebben doorgemaakt. Dit zijn uiterst complexe documenten, maar hier volgt een poging tot een eenvoudige uitleg van wat er aan de doorbraak ten grondslag ligt.
Het vrije-energieprincipe suggereert dat biologische systemen, zoals het menselijk brein, iets proberen te minimaliseren dat "vrije energie" wordt genoemd. Vrije energie is een maat voor het verschil tussen wat een brein waarneemt via zintuiglijke input en wat het verwacht op basis van zijn model van de wereld.
Actieve inferentie is het proces van de hersenen waarbij het interne model wordt aangepast om de vrije energie te minimaliseren. Het past niet alleen zijn model aan om de wereld beter te voorspellen, maar het handelt ook op manieren die de wereld voorspelbaarder maken en beter afstemmen op zijn verwachtingen.
We houden niet van verrassingen of onzekerheid. Dus als je hersenen verwachten dat er iets gebeurt, maar er gebeurt iets anders, dan matig je je verwachtingen van de echte wereld. Als we een AI kunnen maken die dit doet, dan hebben we een zelflerende agent die heel weinig input nodig heeft om aan de slag te gaan.
Gedurfde claims
VERSES beweert dat het onlangs een belangrijke doorbraak heeft bereikt in Active Inference. Het bedrijf zegt dat de intelligente agenten die het heeft gemaakt de prestaties van state-of-the-art deep learning evenaren en vaak overtreffen.
Dat is een gewaagde bewering aangezien het bedrijf in wezen zegt dat zijn modellen GPT-4 en Gemini verslaan.
VERSES zegt dat deze agents "ordes van grootte minder invoergegevens gebruiken en geoptimaliseerd zijn voor energie-efficiëntie, specifiek ontworpen voor intelligent computergebruik aan de rand, niet alleen in de cloud".
Heeft VERSES zojuist de doorbraak aangekondigd die AGI zal opleveren? Als dat zo is, zal het interessant zijn om te zien of OpenAI zijn eigen weg blijft volgen, of woord houdt en een veelbelovender project steunt.
