Forskare föreslår metoder för att bygga upp sammankopplad "kollektiv AI"

Forskare från Loughborough University, MIT och Yale har introducerat konceptet "Collective AI". 

Dokumentera sina idéer i ett perspektiv papper publicerad i Nature Machine Intelligence, föreslår forskare ShELL (Shared Experience Lifelong Learning) som ett ramverk för att skapa decentraliserade AI-system som består av flera oberoende agenter, eller "Collective AI".

Dessa individuella AI-enheter fungerar som en "bikupa" och lär sig kontinuerligt och delar med sig av kunskap under hela sin livstid, vilket utmanar centraliserade monolitiska arkitekturer. 

Om Collective AI utvecklas kan det spegla förmågorna hos Star Treks "The Borg" och många andra sci-fi-koncept som "The Get" från Mass Effect eller "The Replicators" från Stargate SG-1.

Genom att göra det möjligt för agenter att lära sig av sina egna erfarenheter och den kunskap som delas av andra, kan ShELL-system uppvisa snabbare inlärning, förbättrad prestanda och större flexibilitet i motgångar - i likhet med biologiska organismer. 

Toppdatorforskare från hela världen säger att framtiden för artificiell intelligens liknar den i Star Trek🖖🤖

Dr @asoltoggio och experter från bland annat @MIT & @Yale delar med sig av sin vision om "Collective AI" i en ny @NatMachIntell papper.

Läs: https://t.co/JgKhqvUDmG pic.twitter.com/kd1QAyGxGB

- PR för Loughborough University (@LboroPR) 22 mars 2024

Dr Andrea Soltoggio vid Loughborough University, studiens huvudforskare, beskrev studiens vision: "Omedelbar kunskapsdelning i ett kollektivt nätverk av AI-enheter som kontinuerligt kan lära sig och anpassa sig till nya data kommer att möjliggöra snabba reaktioner på nya situationer, utmaningar eller hot." 

Soltoggio lyfte vidare fram potentialen i decentraliserad AI genom att dra en parallell till människans immunsystem, där flera komponenter arbetar tillsammans för att skapa ett samordnat försvar mot hot. 

"Det skulle också kunna leda till utveckling av robotar för katastrofinsatser som snabbt kan anpassa sig till de förhållanden de skickas ut i, eller individanpassade medicinska medel som förbättrar hälsoresultaten genom att kombinera banbrytande medicinsk kunskap med patientspecifik information", förklarar Soltoggio. 

I studien nämns flera potentiella användningsområden i den verkliga världen:

1. Utforskning av rymden: ShELLs decentraliserade inlärnings- och anpassningsförmåga kan vara värdefull vid uppdrag i rymden där kommunikationen med jorden är begränsad och autonoma system måste klara av oväntade utmaningar.
2. Personanpassad medicin: ShELL kan driva distribuerade medicinska AI-system som kontinuerligt anpassar sig till patienternas behov och medicinsk kunskap, vilket möjliggör en mer målinriktad och effektiv vård.
3. Cybersäkerhet: ShELL-agenternas kollektiva lärande och kunskapsdelning kan utnyttjas för att skapa decentraliserade försvarssystem som snabbt upptäcker och sprider information om nya hot, vilket möjliggör snabbare och mer robusta svar på cyberattacker.
4. Insatser vid katastrofer: I artikeln föreslås att ShELL-system kan användas för att samordna autonoma agenter i katastrofscenarier, vilket möjliggör effektivare och mer ändamålsenliga insatser genom att utnyttja gruppens kollektiva intelligens.
5. Avkänning med flera agenter: ShELL kan möjliggöra samordning av svärmar av agenter för att konstruera 3D-världsmodeller för uppgifter som sök- och räddningsoperationer eller anomalidetektering vid militär spaning.

Här är en möjlig idé för att bygga en demokrati med många AI, mångfald och motståndskraft jämfört med en handfull stora enheter som kontrollerar den mest kraftfulla tekniken på 2000-talet https://t.co/Eg7R9X4WEp Någon som vill ha?

- Andrea Soltoggio (@asoltoggio) 22 mars 2024

Trots lovande användningsområden är forskarna medvetna om de potentiella riskerna med kollektiva AI-system, till exempel att felaktig, osäker eller oetisk kunskap snabbt sprids mellan enheterna. 

För att motverka detta föreslår de att man främjar varje AI-enhets självständighet inom kollektivet och säkerställer en balans mellan samarbete och oberoende. 

Att bygga kollektiv AI

Så hur skulle Collective AI kunna fungera? Forskarna föreslår flera potentiella mekanismer:

1. Livslång maskininlärning: Gör det möjligt för AI-agenter att lära sig flera uppgifter stegvis utan att drabbas av katastrofal glömska. Tekniker inkluderar uppspelningsmetoder (lagring och uppspelning av tidigare erfarenheter), regularisering (begränsning av modelluppdateringar för att förhindra att gammal kunskap skrivs över) och parameterisolering (dedikation av separata modellkomponenter för olika uppgifter).
2. Federerat lärande: Ett distribuerat inlärningsparadigm där flera agenter tillsammans tränar en modell samtidigt som deras data hålls lokaliserade. Varje agent beräknar modelluppdateringar baserat på sina lokala data och delar endast dessa uppdateringar med andra, vilket bevarar datasekretessen.
3. Multi-agent system: Studie av autonoma agenter som interagerar i en delad miljö. ShELL-agenter arbetar på ett decentraliserat sätt och fattar beslut baserat på sina individuella mål och kunskaper.
4. Edge computing: Utföra beräkningar och datalagring nära datakällorna, t.ex. på enheter eller edge-servrar, snarare än i centraliserade molnsystem. ShELL-agenter arbetar på edge-enheter, vilket möjliggör bearbetning med låg latens och minskar kommunikationskostnaderna.

Collective AI bygger på den senaste tidens futuristiska utveckling inom AI, till exempel bioinspirerad AI arkitekturer som effektivt simulerar analoga synaptiska strukturer och AI-modeller som körs på riktiga hjärnceller.

Intresset för decentraliserad AI i sig växer, vilket framgår av nyligen avgått av Stability AI:s VD Emad Mostaque. Han lämnade för att driva decentraliserade projekt som syftar till att sprida AI-kraft från Big Tech.

Dessutom har ett nystartat företag, Sakana, grundat av före detta Google-ingenjörer, nyligen tog in $30 miljoner för "svärm"-AI, konceptuellt liknar det som föreslås i denna nya studie.