Forscher schlagen Methoden zum Aufbau einer vernetzten "kollektiven KI" vor

Forscher der Loughborough University, des MIT und von Yale haben das Konzept der "kollektiven KI" vorgestellt. 

Dokumentieren ihrer Ideen in einer Perspektive Papier veröffentlicht in Nature Machine Intelligence, schlagen die Forscher vor Shared Experience Lifelong Learning (ShELL) als Rahmen für die Schaffung dezentraler KI-Systeme, die aus mehreren unabhängigen Agenten bestehen, oder "kollektive KI".

Diese einzelnen KI-Einheiten, die wie ein Bienenstock funktionieren, lernen kontinuierlich und tauschen im Laufe ihres Lebens Wissen aus, wodurch zentralisierte monolithische Architekturen in Frage gestellt werden. 

Wenn sie entwickelt wird, könnte die kollektive KI die Fähigkeiten der "Borg" aus Star Trek und zahlreicher anderer Science-Fiction-Konzepte wie "The Get" aus Mass Effect oder "The Replicators" aus Stargate SG-1 nachahmen.

Indem sie Agenten in die Lage versetzen, aus ihren eigenen Erfahrungen und dem von anderen geteilten Wissen zu lernen, können ShELL-Systeme - ähnlich wie biologische Organismen - schneller lernen, ihre Leistung verbessern und flexibler auf Widrigkeiten reagieren. 

Spitzeninformatiker aus der ganzen Welt sagen, die Zukunft der künstlichen Intelligenz sei ähnlich wie die von Star Trek🖖🤖.

Dr. @asoltoggio und Experten von Unternehmen wie @MIT & @Yale ihre Vision der "kollektiven KI" in einer neuen @NatMachIntell Papier.

Lesen: https://t.co/JgKhqvUDmG pic.twitter.com/kd1QAyGxGB

- Loughborough Universität PR (@LboroPR) 22. März 2024

Dr. Andrea Soltoggio von der Universität Loughborough, der leitende Forscher der Studie, beschrieb die Vision der Studie: "Der sofortige Wissensaustausch über ein kollektives Netzwerk von KI-Einheiten, die in der Lage sind, kontinuierlich zu lernen und sich an neue Daten anzupassen, wird schnelle Reaktionen auf neue Situationen, Herausforderungen oder Bedrohungen ermöglichen." 

Soltoggio verdeutlichte das Potenzial dezentraler KI, indem er eine Analogie zum menschlichen Immunsystem zog, in dem mehrere Komponenten zusammenarbeiten, um eine koordinierte Verteidigung gegen Bedrohungen aufzubauen. 

"Es könnte auch zur Entwicklung von Katastrophenschutzrobotern führen, die sich schnell an die Bedingungen anpassen können, unter denen sie eingesetzt werden, oder zu personalisierten medizinischen Agenten, die die Gesundheitsergebnisse verbessern, indem sie modernstes medizinisches Wissen mit patientenspezifischen Informationen verbinden", erklärte Soltoggio. 

In der Studie werden mehrere potenzielle Anwendungen in der Praxis genannt:

1. Erforschung des Weltraums: Die dezentralen Lern- und Anpassungsfähigkeiten von ShELL könnten bei Weltraummissionen, bei denen die Kommunikation mit der Erde begrenzt ist und autonome Systeme unerwartete Herausforderungen bewältigen müssen, von großem Nutzen sein.
2. Personalisierte Medizin: ShELL könnte verteilte medizinische KI-Systeme antreiben, die sich kontinuierlich an die sich verändernden Patientenbedürfnisse und medizinischen Kenntnisse anpassen und so eine gezieltere und effektivere Gesundheitsversorgung ermöglichen.
3. Cybersecurity: Das kollektive Lernen und der Wissensaustausch von ShELL-Agenten könnte genutzt werden, um dezentralisierte Abwehrsysteme zu schaffen, die neue Bedrohungen schnell erkennen und Informationen darüber verbreiten und so eine schnellere und robustere Reaktion auf Cyberangriffe ermöglichen.
4. Katastrophenhilfe: In dem Papier wird vorgeschlagen, dass ShELL-Systeme zur Koordinierung autonomer Agenten in Katastrophenszenarien eingesetzt werden könnten, um durch die Nutzung der kollektiven Intelligenz der Gruppe eine effizientere und effektivere Reaktion zu ermöglichen.
5. Multi-Agenten-Sensorik: ShELL könnte die Koordination von Schwärmen von Agenten ermöglichen, um 3D-Weltmodelle für Aufgaben wie Such- und Rettungseinsätze oder die Erkennung von Anomalien bei der militärischen Aufklärung zu konstruieren.

Hier ist eine mögliche Idee für den Aufbau einer Demokratie mit vielen KIs, Vielfalt und Widerstandsfähigkeit im Gegensatz zu einer Handvoll großer Unternehmen, die die mächtigste Technologie des 21. https://t.co/Eg7R9X4WEp Hat jemand Lust?

- Andrea Soltoggio (@asoltoggio) 22. März 2024

Trotz der vielversprechenden Einsatzmöglichkeiten sind sich die Forscher der potenziellen Risiken kollektiver KI-Systeme bewusst, z. B. der schnellen Verbreitung von falschem, unsicherem oder unethischem Wissen zwischen den Einheiten. 

Um dem entgegenzuwirken, schlagen sie vor, die Autonomie der einzelnen KI-Einheiten innerhalb des Kollektivs zu fördern und ein Gleichgewicht zwischen Zusammenarbeit und Unabhängigkeit zu gewährleisten. 

Aufbau kollektiver KI

Wie also könnte kollektive KI funktionieren? Die Forscher schlagen mehrere mögliche Mechanismen vor:

1. Lebenslanges maschinelles Lernen: Ermöglicht es KI-Agenten, mehrere Aufgaben inkrementell zu lernen, ohne dass es zu einem katastrophalen Vergessen kommt. Zu den Techniken gehören Wiedergabemethoden (Speichern und Wiedergeben früherer Erfahrungen), Regularisierung (Einschränkung von Modellaktualisierungen, um das Überschreiben alten Wissens zu verhindern) und Parameterisolierung (Zuweisung separater Modellkomponenten für verschiedene Aufgaben).
2. Föderiertes Lernen: Ein verteiltes Lernparadigma, bei dem mehrere Agenten gemeinsam ein Modell trainieren und dabei ihre Daten lokalisiert halten. Jeder Agent berechnet Modellaktualisierungen auf der Grundlage seiner lokalen Daten und teilt nur diese Aktualisierungen mit den anderen, so dass der Datenschutz gewahrt bleibt.
3. Multi-Agenten-Systeme: Studie über autonome Agenten, die in einer gemeinsamen Umgebung interagieren. ShELL-Agenten arbeiten dezentral und treffen Entscheidungen auf der Grundlage ihrer individuellen Ziele und Kenntnisse.
4. Edge-Computing: Durchführung von Berechnungen und Datenspeicherung in der Nähe der Datenquellen, z. B. auf Geräten oder Edge-Servern, statt in zentralisierten Cloud-Systemen. ShELL-Agenten arbeiten auf Edge-Geräten, ermöglichen eine Verarbeitung mit geringer Latenz und reduzieren die Kommunikationskosten.

Die kollektive KI baut auf den jüngsten futuristischen Entwicklungen im Bereich der KI auf, wie z. B. bioinspirierte KI Architekturen, die analoge synaptische Strukturen effektiv simulieren, und KI-Modelle, die auf echte Gehirnzellen.

Das Interesse an dezentraler KI selbst wächst, wie die kürzlicher Rücktritt von Stability AI CEO Emad Mostaque. Er verließ das Unternehmen, um sich dezentralen Projekten zu widmen, die darauf abzielen, die KI-Macht von Big Tech zu verteilen.

Außerdem hat das von ehemaligen Google-Ingenieuren gegründete Unternehmen Sakana vor kurzem $30 Millionen für "Schwarm"-KI aufgebracht, konzeptionell ähnlich dem, was in dieser neuen Studie vorgeschlagen wird.