Onderzoekers van Loughborough University, MIT en Yale hebben het concept van 'Collectieve AI' geïntroduceerd.
Hun ideeën vastleggen in een perspectief papier gepubliceerd in Nature Machine Intelligence, stellen onderzoekers voor Shared Experience Lifelong Learning (ShELL) als raamwerk voor het maken van gedecentraliseerde AI-systemen die bestaan uit meerdere onafhankelijke agenten, of "Collectieve AI".
Deze individuele AI-eenheden werken als een 'korfgeest' en leren voortdurend bij en delen kennis gedurende hun hele leven, waardoor ze een uitdaging vormen voor gecentraliseerde monolithische architecturen.
Als het ontwikkeld wordt, zou Collective AI de vaardigheden van Star Trek's "The Borg" en talloze andere sci-fi concepten zoals "The Get" uit Mass Effect of "The Replicators" uit Stargate SG-1 kunnen evenaren.
Door agenten in staat te stellen te leren van hun eigen ervaringen en de kennis die anderen delen, kunnen ShELL systemen sneller leren, betere prestaties leveren en flexibeler reageren op tegenslagen - vergelijkbaar met biologische organismen.
Computerwetenschappers van over de hele wereld zeggen dat de toekomst van kunstmatige intelligentie lijkt op die van Star Trek🖖🤖
Dr. @asoltoggio en experts zoals @MIT & @Yale delen hun 'Collectieve AI'-visie in een nieuwe @NatMachIntell papier.
Lezen: https://t.co/JgKhqvUDmG pic.twitter.com/kd1QAyGxGB
- Loughborough Universiteit PR (@LboroPR) 22 maart 2024
Dr. Andrea Soltoggio van de Loughborough University, de hoofdonderzoeker van het onderzoek, beschreef de visie van het onderzoek: "Het direct delen van kennis binnen een collectief netwerk van AI-eenheden die in staat zijn om continu te leren en zich aan te passen aan nieuwe gegevens, zal snelle reacties op nieuwe situaties, uitdagingen of bedreigingen mogelijk maken."
Soltoggio benadrukte verder het potentieel van gedecentraliseerde AI door een analogie te trekken met het menselijke immuunsysteem, waar meerdere componenten samenwerken om een gecoördineerde verdediging tegen bedreigingen op te zetten.
"Het zou ook kunnen leiden tot de ontwikkeling van robots voor rampenbestrijding die zich snel kunnen aanpassen aan de omstandigheden waarin ze worden uitgezonden, of gepersonaliseerde medische middelen die de gezondheidsresultaten verbeteren door geavanceerde medische kennis samen te voegen met patiënt-specifieke informatie", legt Soltoggio uit.
In de studie worden verschillende mogelijke toepassingen in de praktijk genoemd:
- Verkenning van de ruimte: Het gedecentraliseerde leer- en aanpassingsvermogen van ShELL zou waardevol kunnen zijn voor missies in de diepe ruimte, waar de communicatie met de aarde beperkt is en autonome systemen onverwachte uitdagingen het hoofd moeten bieden.
- Gepersonaliseerde geneeskunde: ShELL zou gedistribueerde medische AI-systemen kunnen aandrijven die zich voortdurend aanpassen aan veranderende behoeften van patiënten en medische kennis, waardoor meer gerichte en effectieve gezondheidszorg mogelijk wordt.
- Cyberbeveiliging: Het collectieve leren en delen van kennis van ShELL-agenten kan worden gebruikt om gedecentraliseerde verdedigingssystemen te creëren die snel informatie over nieuwe bedreigingen detecteren en verspreiden, waardoor sneller en robuuster kan worden gereageerd op cyberaanvallen.
- Reactie op rampen: Het artikel suggereert dat ShELL-systemen zouden kunnen worden gebruikt om autonome agenten te coördineren in rampscenario's, waardoor een efficiëntere en effectievere respons mogelijk is door gebruik te maken van de collectieve intelligentie van de groep.
- Sensing met meerdere agenten: ShELL zou de coördinatie van zwermen agenten mogelijk kunnen maken om 3D-wereldmodellen te construeren voor taken als zoek- en reddingsoperaties of anomaliedetectie bij militaire verkenning.
Hier is een mogelijk idee om een democratie op te bouwen van veel AI's, diversiteit en veerkracht tegenover een handvol grote entiteiten die de machtigste technologie van de 21e eeuw beheersen. https://t.co/Eg7R9X4WEp Iemand?
- Andrea Soltoggio (@asoltoggio) 22 maart 2024
Ondanks veelbelovende toepassingen zijn onderzoekers zich bewust van de potentiële risico's van collectieve AI-systemen, zoals de snelle verspreiding van onjuiste, onveilige of onethische kennis tussen eenheden.
Om dat tegen te gaan, stellen ze voor om de autonomie van elke AI-eenheid binnen het collectief te bevorderen, zodat er een balans is tussen samenwerking en onafhankelijkheid.
Bouwen aan collectieve AI
Dus hoe zou Collectieve AI kunnen werken? Onderzoekers stellen verschillende mogelijke mechanismen voor:
- Een leven lang machinaal leren: Stelt AI-agenten in staat om meerdere taken incrementeel te leren zonder last te krijgen van catastrofaal vergeten. Technieken zijn onder andere replay-methodes (het opslaan en opnieuw afspelen van eerdere ervaringen), regularisatie (het beperken van modelupdates om te voorkomen dat oude kennis wordt overschreven) en parameterisolatie (het toewijzen van aparte modelcomponenten voor verschillende taken).
- Federaal leren: Een gedistribueerd leerparadigma waarbij meerdere agenten gezamenlijk een model trainen terwijl hun gegevens gelokaliseerd blijven. Elke agent berekent modelupdates op basis van zijn lokale gegevens en deelt alleen deze updates met anderen, waardoor de gegevensprivacy behouden blijft.
- Multi-agent systemen: Studie van autonome agenten die samenwerken in een gedeelde omgeving. ShELL-agenten werken op een gedecentraliseerde manier en nemen beslissingen op basis van hun individuele doelen en kennis.
- Randcomputing: Berekeningen en gegevensopslag dicht bij de gegevensbronnen uitvoeren, zoals op apparaten of randservers, in plaats van in gecentraliseerde cloudsystemen. ShELL-agenten werken op randapparaten, waardoor verwerking met lage latentie mogelijk is en de communicatiekosten worden verlaagd.
Collectieve AI bouwt voort op recente futuristische ontwikkelingen in AI, zoals bio-geïnspireerde AI architecturen die analoge synaptische structuren effectief simuleren en AI-modellen die draaien op echte hersencellen.
De belangstelling voor gedecentraliseerde AI zelf groeit, zoals blijkt uit de recent ontslag van Stability AI CEO Emad Mostaque. Hij vertrok om zich bezig te houden met gedecentraliseerde projecten die proberen de AI-kracht van Big Tech te verspreiden.
Daarnaast heeft een startup, Sakana, opgericht door ex-Google ingenieurs, onlangs bracht $30 miljoen op voor "zwerm" AI, conceptueel vergelijkbaar met wat wordt voorgesteld in deze nieuwe studie.
