Die KI-Forschung wird durch das Streben nach immer mehr Raffinesse angetrieben, wozu auch gehört, dass Systeme darauf trainiert werden, wie Menschen zu denken und sich zu verhalten.
Das Endziel? Wer weiß. Das vorläufige Ziel? Die Schaffung autonomer, verallgemeinerter KI-Agenten, die in der Lage sind, ein breites Spektrum an Aufgaben zu erfüllen.
Dieses Konzept wird gewöhnlich als künstliche allgemeine Intelligenz (AGI) oder Superintelligenz bezeichnet.
Es ist schwierig, genau zu bestimmen, was AGI bedeutet, weil es praktisch keinen Konsens darüber gibt, was "Intelligenz" ist oder wann oder wie künstliche Systeme sie erreichen könnten.
Skeptiker sind sogar der Meinung, dass KI in ihrem derzeitigen Stadium niemals wirklich allgemeine Intelligenz erreichen kann.
Professor Tony Prescott und Dr. Stuart Wilson von der Universität von Sheffield beschriebene generative Sprachmodellewie ChatGPT als von Natur aus begrenzt, weil sie "körperlos" sind und keine Sinneswahrnehmung oder Verankerung in der natürlichen Welt haben.
Der leitende KI-Wissenschaftler von Meta, Yann LeCun, sagte, dass selbst die Intelligenz einer Hauskatze unendlich viel weiter fortgeschritten ist als die besten KI-Systeme von heute.
"Aber warum sind diese Systeme nicht so schlau wie eine Katze?" LeCun fragte auf dem World Government Summit in Dubai.
"Eine Katze kann sich erinnern, sie kann die physikalische Welt verstehen, sie kann komplexe Handlungen planen, sie kann ein gewisses Maß an logischem Denken - und zwar viel besser als die größten LLMs. Das zeigt uns, dass uns etwas konzeptionell Wichtiges fehlt, damit Maschinen so intelligent wie Tiere und Menschen werden können."
Auch wenn diese Fähigkeiten nicht unbedingt notwendig sind, um eine AGI zu erreichen, besteht doch ein gewisser Konsens darüber, dass die Übertragung komplexer KI-Systeme aus dem Labor in die reale Welt die Übernahme von Verhaltensweisen erfordert, die denen natürlicher Organismen ähneln.
Wie kann dies also erreicht werden? Ein Ansatz besteht darin, Elemente der Kognition zu zerlegen und herauszufinden, wie KI-Systeme sie nachahmen können.
Ein früherer DailyAI-Aufsatz untersuchte Neugierde und ihre Fähigkeit, Organismen zu neuen Erfahrungen und Zielen zu führen und so die kollektive Evolution der natürlichen Welt voranzutreiben.
Aber es gibt noch eine andere Emotion - eine weitere wesentliche Komponente unserer Existenz -, von der AGI profitieren könnte. Und das ist die Angst.
Wie KI von biologischer Angst lernen kann
Angst ist keineswegs eine Schwäche oder ein Makel, sondern eines der wirksamsten Instrumente der Evolution, um Organismen zu schützen.
Die Amygdala ist die zentrale Struktur, die bei Wirbeltieren die Angst steuert. Beim Menschen handelt es sich um eine kleine, mandelförmige Struktur, die tief in den Schläfenlappen des Gehirns eingebettet ist.
Die Amygdala wird oft als "Angstzentrum" bezeichnet und dient als Frühwarnsystem, das ständig eingehende sensorische Informationen auf potenzielle Bedrohungen überprüft.
Wenn eine Bedrohung erkannt wird - sei es das plötzliche Ruckeln eines bremsenden Autos vor uns oder ein sich bewegender Schatten in der Dunkelheit - tritt die Amygdala in Aktion und löst eine Kaskade von physiologischen und Verhaltensänderungen aus, die für eine schnelle Abwehrreaktion optimiert sind:
- Herzfrequenz und Blutdruck steigen an und bereiten den Körper auf "Kampf oder Flucht" vor.
- Die Aufmerksamkeit verengt sich und schärft sich, um die Quelle der Gefahr zu erkennen.
- Die Reflexe werden schneller, die Muskeln sind bereit für blitzschnelles Ausweichen
- Die kognitive Verarbeitung geht in einen schnellen, intuitiven Modus über, in dem es besser ist, auf Nummer sicher zu gehen.
Diese Reaktion ist kein einfacher Reflex, sondern eine äußerst anpassungsfähige, kontextabhängige Folge von Veränderungen, die das Verhalten flexibel an die Art und Schwere der jeweiligen Bedrohung anpassen.
Sie ist auch außergewöhnlich schnell. Wir werden uns einer Bedrohung etwa 300-400 Millisekunden nach der ersten Erkennung bewusst.
Außerdem arbeitet die Amygdala nicht isoliert. Sie ist eng mit anderen wichtigen Hirnregionen vernetzt, die an Wahrnehmung, Gedächtnis, Denken und Handeln beteiligt sind.
Warum Angst der KI nützen könnte
Warum ist Angst im Zusammenhang mit KI überhaupt wichtig?
In biologischen Systemen ist Angst ein entscheidender Mechanismus, um Bedrohungen schnell zu erkennen und darauf zu reagieren. Wenn wir dieses System in der KI nachahmen, können wir möglicherweise robustere und anpassungsfähigere künstliche Systeme schaffen.
Dies gilt insbesondere für autonome Systeme, die mit der realen Welt interagieren. Ein Beispiel: Obwohl sich die KI-Intelligenz in den letzten Jahren explosionsartig entwickelt hat, sind fahrerlose Autos in puncto Sicherheit und Zuverlässigkeit immer noch unzureichend.
Die Aufsichtsbehörden untersuchen zahlreiche tödliche Unfälle mit selbstfahrenden Autos, darunter auch Tesla-Modelle mit Autopilot und Full Self-Driving-Funktionen.
Matthew Avery, Forschungsdirektor bei Thatcham Research, sprach mit dem Guardian im Jahr 2022, erklärt, warum fahrerlose Autos so schwierig zu verfeinern gewesen sind:
"Erstens ist die Sache schwieriger, als die Hersteller gedacht haben", sagt Avery.
Avery schätzt, dass etwa 80% der Funktionen des autonomen Fahrens relativ einfache Aufgaben wie das Verfolgen der Fahrspur und das Vermeiden von Hindernissen umfassen.
Die nächsten Aktionen sind jedoch viel schwieriger. "Der letzte 10% ist wirklich schwierig", betont Avery, "zum Beispiel, wenn man eine Kuh mitten auf der Straße stehen hat, die sich nicht bewegen will".
Sicher, Kühe sind an sich nicht furchteinflößend. Aber jeder konzentrierte Autofahrer würde wohl kaum anhalten können, wenn er mit hoher Geschwindigkeit auf eine Kuh zurast.
Die Fähigkeit eines KI-Systems, eine Kuh genau zu identifizieren und angemessene Entscheidungen zu treffen, hängt in hohem Maße von seinem grundlegenden Training mit relevanten Daten ab.
Dieses anfängliche Training reicht jedoch möglicherweise nicht immer aus, um Gefahren abzuwenden, insbesondere wenn die KI auf unbekannte Objekte oder Szenarien (sogenannte "Randfälle") trifft.
Deshalb verarbeiten fortschrittliche KI-Systeme Daten in Echtzeit und lernen kontinuierlich, so dass sie sich anpassen und ihre Entscheidungsfähigkeit mit der Zeit verbessern können.
Dennoch ist dies weit von den tief integrierten, intuitiven Warnsystemen der Natur entfernt. Ein menschlicher Fahrer könnte bei der bloßen Andeutung eines Hindernisses instinktiv bremsen, noch bevor er weiß, worum es sich handelt.
Entscheidend ist auch, dass natürliche, auf Angst basierende Reaktionen sehr anpassungsfähig sind und sich gut auf neue Situationen übertragen lassen. Ein KI-System, das mit einem neuartigen angstbasierten Mechanismus trainiert wurde, könnte besser für unvorhergesehene Szenarien gerüstet sein als ein System, das herkömmliche Techniken des verstärkten Lernens (Reinforcement Learning, RL) verwendet.
Es gibt jedoch einen Vorbehalt: Auch Menschen treffen nicht immer die richtigen Entscheidungen. Das ändert nichts an dem Vertrauen, das erforderlich ist, um autonome Fahrzeuge sicher und massenhaft einzuführen. Die Menschen tolerieren menschliche Fehler aufgrund ihrer Vertrautheit, stehen aber maschinellen Fehlern skeptisch gegenüber.
Man könnte sagen: "Besser den Teufel, den man kennt, als den Teufel, den man nicht kennt." Um eine breite Akzeptanz für autonome Fahrzeuge zu erreichen, müssen die Hersteller beweisen, dass sie zuverlässig sind und mit Fehlern genauso sicher umgehen können wie Menschen.
KI-Systeme mit einem tieferen Gefühl der Angst auszustatten, könnte ein alternatives, schnelleres und effizienteres Mittel sein, um dies zu erreichen als herkömmliche Methoden.
Dekonstruktion der Angst: Erkenntnisse der Fruchtfliege
Wir sind noch weit davon entfernt, künstliche Systeme zu entwickeln, die die integrierten, spezialisierten neuronalen Regionen in biologischen Gehirnen nachbilden. Das heißt aber nicht, dass wir diese Mechanismen nicht auf andere Weise modellieren können.
Zoomen wir also von der Amygdala weg und schauen uns an, wie wirbellose Tiere - zum Beispiel kleine Insekten - Angst erkennen und verarbeiten.
Sie verfügen zwar nicht über eine Struktur, die direkt mit der Amygdala vergleichbar ist, aber das bedeutet nicht, dass sie keine Schaltkreise haben, die ein ähnliches Ziel verfolgen.
Jüngste Studien über die Angstreaktionen von Drosophila melanogaster, der gemeinen Fruchtfliege, lieferte faszinierende Einblicke in die grundlegenden Bausteine der primitiven Emotionen.
In einem Experiment die 2015 am Caltech durchgeführt wurde, haben Forscher unter der Leitung von David Anderson Fliegen, die einem Schatten über dem Kopf ausgesetzt sind, der ein sich näherndes Raubtier imitieren soll.
Mithilfe von Hochgeschwindigkeitskameras und Bildverarbeitungsalgorithmen analysierten sie das Verhalten der Fliegen akribisch und suchten nach Anzeichen für das, was Anderson "Emotionsprimitive" nennt - die grundlegenden Komponenten eines emotionalen Zustands.
Bemerkenswerterweise zeigten die Fliegen eine Reihe von Verhaltensweisen, die den bei Säugetieren beobachteten Angstreaktionen sehr ähnlich sind.
Als der Schatten auftauchte, erstarrten die Fliegen auf der Stelle, und ihre Flügel stellten sich schräg, um eine schnelle Flucht vorzubereiten.
Als die Bedrohung anhielt, ergriffen einige Fliegen die Flucht und entfernten sich mit hoher Geschwindigkeit vom Schatten. Andere blieben über einen längeren Zeitraum stehen, was auf einen Zustand erhöhter Erregung und Wachsamkeit schließen lässt.
Entscheidend ist, dass diese Reaktionen nicht einfach nur Reflexe waren, die automatisch durch den visuellen Reiz ausgelöst wurden. Stattdessen schienen sie einen dauerhaften inneren Zustand widerzuspiegeln, eine Art "Fliegenangst", die auch nach dem Ende der Bedrohung anhielt.
Dies zeigte sich darin, dass das verstärkte Abwehrverhalten der Fliegen auch noch Minuten nach der ersten Schattenexposition durch einen anderen Reiz (einen Lufthauch) ausgelöst werden konnte.
Außerdem stiegen Intensität und Dauer der Angstreaktion mit dem Grad der Bedrohung. Fliegen, die mehreren Schatten ausgesetzt waren, zeigten ein zunehmend stärkeres und länger anhaltendes Abwehrverhalten, was auf eine Art "Angstlernen" hindeutet, das es ihnen ermöglicht, ihre Reaktion je nach Schwere und Häufigkeit der Gefahr zu kalibrieren.
Wie Anderson und sein Team argumentieren, deuten diese Ergebnisse darauf hin, dass die Bausteine emotionaler Zustände - Persistenz, Skalierbarkeit und Verallgemeinerung - selbst bei den einfachsten Lebewesen vorhanden sind.
Wenn wir entschlüsseln können, wie einfachere Organismen wie die Fruchtfliege Bedrohungen verarbeiten und darauf reagieren, können wir möglicherweise die Grundprinzipien des adaptiven, selbsterhaltenden Verhaltens herausfinden.
Primitive Formen der Angst könnten genutzt werden, um KI-Systeme zu entwickeln, die robuster und sicherer sind und sich auf reale Risiken und Herausforderungen einstellen.
KI mit Angstschaltkreisen ausstatten
Das ist eine tolle Theorie, aber kann KI in der Praxis mit einer authentischen, funktionalen Form von "Angst" ausgestattet werden?
Eine faszinierende Studie untersuchte genau das mit dem Ziel, die Sicherheit von fahrerlosen Autos und anderen autonomen Systemen zu verbessern.
"Fear-Neuro-Inspired Reinforcement Learning for Safe Autonomous Driving", geleitet von Chen Lv an der Nanyang Technological University, Singapur, entwickelten ein Angst-Neuro-inspiriertes Verstärkungslernen (FNI-RL) zur Verbesserung der Leistung von fahrerlosen Autos.
Durch die Entwicklung von KI-Systemen, die die subtilen Hinweise und Muster erkennen und darauf reagieren können, die beim Menschen ein defensives Fahrverhalten auslösen - was sie als "Angstneuronen" bezeichnen -, könnten wir in der Lage sein, selbstfahrende Autos zu entwickeln, die mit der notwendigen intuitiven Vorsicht und Risikosensibilität auf der Straße navigieren.
Der FNI-RL-Rahmen überträgt Schlüsselprinzipien der Angstschaltkreise des Gehirns in ein Computermodell für bedrohungssensitives Fahren, das es einem autonomen Fahrzeug ermöglicht, adaptive Verteidigungsstrategien in Echtzeit zu erlernen und einzusetzen.
Sie umfasst drei Schlüsselkomponenten, die den Kernelementen der neuronalen Angstreaktion nachempfunden sind:
- Ein "Furchtmodell", das lernt, Fahrsituationen zu erkennen und zu bewerten, die ein erhöhtes Kollisionsrisiko signalisieren, und dabei eine Rolle spielt, die den Funktionen der Amygdala zur Erkennung von Gefahren entspricht.
- Ein Modul zur "gegnerischen Vorstellungskraft", das gefährliche Szenarien mental simuliert und es dem System ermöglicht, Defensivmanöver ohne reale Konsequenzen sicher zu "üben" - eine Form des risikofreien Lernens, die an die mentalen Übungsfähigkeiten menschlicher Fahrer erinnert.
- Ein "furchteinschränkender" Entscheidungsmotor, der potenzielle Handlungen nicht nur nach den unmittelbar zu erwartenden Belohnungen abwägt (z. B. Fortschritte auf dem Weg zu einem Ziel), sondern auch nach dem geschätzten Risikoniveau, das durch das Furchtmodell und die Komponenten der gegnerischen Vorstellungskraft ermittelt wird. Dies spiegelt die Rolle der Amygdala wider, die das Verhalten auf der Grundlage einer fortlaufenden Kalkulation von Bedrohung und Sicherheit flexibel steuert.
Um dieses System auf Herz und Nieren zu prüfen, testeten die Forscher es in einer Reihe von realitätsnahen Fahrsimulationen mit anspruchsvollen, sicherheitskritischen Szenarien:
- Plötzliches Anfahren und Ausweichen durch aggressive Fahrer
- Unberechenbare Fußgänger, die in den Verkehr laufen
- Scharfe Kurven und unübersichtliche Ecken mit eingeschränkter Sicht
- Glatte Straßen und schlechte Wetterbedingungen
Bei diesen Tests zeigten die mit FNI-RL ausgestatteten Fahrzeuge eine bemerkenswerte Sicherheitsleistung und übertrafen durchweg menschliche Fahrer und herkömmliche Techniken des verstärkten Lernens (Reinforcement Learning, RL), um Kollisionen zu vermeiden und defensive Fahrfähigkeiten zu üben.
In einem eindrucksvollen Beispiel navigierte das FNI-RL-System erfolgreich durch einen plötzlichen Verkehrszusammenschluss mit hoher Geschwindigkeit mit einer Erfolgsrate von 90%, verglichen mit nur 60% für ein modernes RL-Basissystem.
Es wurde sogar ein Sicherheitsgewinn erzielt, ohne dass die Fahrleistung oder der Fahrgastkomfort beeinträchtigt wurden.
In weiteren Tests untersuchten die Forscher die Fähigkeit des FNI-RL-Systems, defensive Strategien für verschiedene Fahrumgebungen zu erlernen und zu verallgemeinern.
In einer Simulation einer belebten Stadtkreuzung lernte die KI in nur wenigen Versuchen, die verräterischen Zeichen eines rücksichtslosen Fahrers zu erkennen - plötzliche Spurwechsel, aggressive Beschleunigung - und ihr eigenes Verhalten präventiv anzupassen, um einen größeren Bogen zu machen.
Bemerkenswerterweise war das System dann in der Lage, diese erlernte Vorsicht auf ein neuartiges Fahrszenario auf der Autobahn zu übertragen, indem es automatisch gefährliche Einfahrmanöver registrierte und mit Ausweichmanövern reagierte.
Dies zeigt das Potenzial der neuronal inspirierten emotionalen Intelligenz zur Verbesserung der Sicherheit und Robustheit autonomer Fahrsysteme.
Indem wir Fahrzeuge mit einer "digitalen Amygdala" ausstatten, die auf die viszeralen Hinweise von Verkehrsrisiken abgestimmt ist, können wir vielleicht selbstfahrende Autos entwickeln, die die Herausforderungen der offenen Straße mit einem flüssigen, proaktiven, defensiven Bewusstsein meistern können.
Auf dem Weg zu einer Wissenschaft der gefühlsbetonten Robotik
Während die jüngsten KI-Fortschritte auf brachialer Rechenleistung beruhten, lassen sich die Forscher nun von den emotionalen Reaktionen des Menschen inspirieren, um intelligentere und anpassungsfähigere künstliche Systeme zu schaffen.
Dieses Paradigma mit der Bezeichnung "bioinspirierte KIgeht über selbstfahrende Autos hinaus und erstreckt sich auf Bereiche wie Fertigung, Gesundheitswesen und Weltraumforschung.
Es gibt viele spannende Aspekte zu erforschen. So werden beispielsweise Roboterhände mit "digitalen Nozizeptoren" entwickelt, die Schmerzrezeptoren imitieren und eine schnelle Reaktion auf mögliche Schäden ermöglichen.
Was die Hardware betrifft, IBMs bio-inspirierte Analog-Chips verwenden "Memristoren" zur Speicherung wechselnder Zahlenwerte, wodurch die Datenübertragung zwischen Speicher und Prozessor reduziert wird.
In ähnlicher Weise haben Forscher am Indian Institute of Technology, Bombay, einen Chip für Spiking Neural Networks (SNNs)die die Funktion biologischer Neuronen weitgehend nachahmen.
Professor Udayan Ganguly berichtet, dass dieser Chip im Vergleich zu herkömmlichen Designs "5.000-mal weniger Energie pro Spike bei ähnlicher Fläche und 10-mal weniger Standby-Leistung" erreicht.
Diese Fortschritte im neuromorphen Computing bringen uns dem näher, was Ganguly als "extrem stromsparenden neurosynaptischen Kern und Echtzeit-Lernmechanismus auf dem Chip" beschreibt, Schlüsselelemente für autonome, biologisch inspirierte neuronale Netzwerke.
Die Kombination von KI-Technologie, die von der Natur inspiriert ist, mit Architekturen, die von natürlichen emotionalen Zuständen wie Angst oder Neugier geprägt sind, könnte die KI in einen völlig neuen Zustand versetzen.
Wenn Forscher diese Grenzen erweitern, schaffen sie nicht nur effizientere Maschinen, sondern möglicherweise auch eine neue Form der Intelligenz.
Wenn sich diese Forschungsrichtung weiterentwickelt, könnten autonome Maschinen unter uns umherwandern und auf unvorhersehbare Umweltreize mit Neugierde, Angst und anderen Emotionen reagieren, die als eindeutig menschlich gelten.
Die Auswirkungen? Das ist eine ganz andere Geschichte.
