{"id":13512,"date":"2024-07-20T19:20:23","date_gmt":"2024-07-20T19:20:23","guid":{"rendered":"https:\/\/dailyai.com\/?p=13512"},"modified":"2024-07-22T11:57:20","modified_gmt":"2024-07-22T11:57:20","slug":"is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/07\/is-fear-the-key-the-building-more-adaptable-resilient-and-natural-ai-systems\/","title":{"rendered":"Ist \"Angst\" der Schl\u00fcssel zum Aufbau anpassungsf\u00e4higer, widerstandsf\u00e4higer und nat\u00fcrlicher KI-Systeme?"},"content":{"rendered":"

Die KI-Forschung wird durch das Streben nach immer mehr Raffinesse angetrieben, wozu auch geh\u00f6rt, dass Systeme darauf trainiert werden, wie Menschen zu denken und sich zu verhalten.<\/b><\/p>\n

Das Endziel? Wer wei\u00df. Das vorl\u00e4ufige Ziel? Die Schaffung autonomer, verallgemeinerter KI-Agenten, die in der Lage sind, ein breites Spektrum an Aufgaben zu erf\u00fcllen.\u00a0<\/span><\/p>\n

Dieses Konzept wird gew\u00f6hnlich als k\u00fcnstliche allgemeine Intelligenz (AGI) oder Superintelligenz bezeichnet.<\/span><\/p>\n

Es ist schwierig, genau zu bestimmen, was AGI bedeutet, weil es praktisch keinen Konsens dar\u00fcber gibt, was \"Intelligenz\" ist oder wann oder wie k\u00fcnstliche Systeme sie erreichen k\u00f6nnten.<\/p>\n

Skeptiker sind sogar der Meinung, dass KI in ihrem derzeitigen Stadium niemals wirklich allgemeine Intelligenz erreichen kann.\u00a0<\/span><\/p>\n

Professor Tony Prescott und Dr. Stuart Wilson von der Universit\u00e4t von Sheffield\u00a0beschriebene generative Sprachmodelle<\/a>wie ChatGPT als von Natur aus begrenzt, weil sie \"k\u00f6rperlos\" sind und keine Sinneswahrnehmung oder Verankerung in der nat\u00fcrlichen Welt haben.\u00a0<\/span><\/p>\n

Der leitende KI-Wissenschaftler von Meta, Yann LeCun, sagte, dass selbst die Intelligenz einer Hauskatze unendlich viel weiter fortgeschritten ist als die besten KI-Systeme von heute.\u00a0<\/span><\/p>\n

\"Aber warum sind diese Systeme nicht so schlau wie eine Katze?\" LeCun fragte<\/a> auf dem World Government Summit in Dubai.<\/p>\n

\"Eine Katze kann sich erinnern, sie kann die physikalische Welt verstehen, sie kann komplexe Handlungen planen, sie kann ein gewisses Ma\u00df an logischem Denken - und zwar viel besser als die gr\u00f6\u00dften LLMs. Das zeigt uns, dass uns etwas konzeptionell Wichtiges fehlt, damit Maschinen so intelligent wie Tiere und Menschen werden k\u00f6nnen.\"<\/p>\n

Auch wenn diese F\u00e4higkeiten nicht unbedingt notwendig sind, um eine AGI zu erreichen, besteht doch ein gewisser Konsens dar\u00fcber, dass die \u00dcbertragung komplexer KI-Systeme aus dem Labor in die reale Welt die \u00dcbernahme von Verhaltensweisen erfordert, die denen nat\u00fcrlicher Organismen \u00e4hneln.\u00a0<\/span><\/p>\n

Wie kann dies also erreicht werden? Ein Ansatz besteht darin, Elemente der Kognition zu zerlegen und herauszufinden, wie KI-Systeme sie nachahmen k\u00f6nnen.<\/span><\/p>\n

Ein fr\u00fcherer DailyAI-Aufsatz untersuchte <\/span>Neugierde<\/span><\/a> und ihre F\u00e4higkeit, Organismen zu neuen Erfahrungen und Zielen zu f\u00fchren und so die kollektive Evolution der nat\u00fcrlichen Welt voranzutreiben.\u00a0<\/span><\/p>\n

Aber es gibt noch eine andere Emotion - eine weitere wesentliche Komponente unserer Existenz -, von der AGI profitieren k\u00f6nnte. Und das ist die Angst.\u00a0<\/span><\/p>\n

Wie KI von biologischer Angst lernen kann<\/h2>\n

Angst ist keineswegs eine Schw\u00e4che oder ein Makel, sondern eines der wirksamsten Instrumente der Evolution, um Organismen zu sch\u00fctzen.<\/span><\/p>\n

Die Amygdala ist die zentrale Struktur, die bei Wirbeltieren die Angst steuert. Beim Menschen handelt es sich um eine kleine, mandelf\u00f6rmige Struktur, die tief in den Schl\u00e4fenlappen des Gehirns eingebettet ist.\u00a0<\/span><\/p>\n

\"Amygdala\"
Die Amygdala steuert in erster Linie die Angstreaktion bei Wirbeltieren.<\/figcaption><\/figure>\n

Die Amygdala wird oft als \"Angstzentrum\" bezeichnet und dient als Fr\u00fchwarnsystem, das st\u00e4ndig eingehende sensorische Informationen auf potenzielle Bedrohungen \u00fcberpr\u00fcft.<\/span><\/p>\n

Wenn eine Bedrohung erkannt wird - sei es das pl\u00f6tzliche Ruckeln eines bremsenden Autos vor uns oder ein sich bewegender Schatten in der Dunkelheit - tritt die Amygdala in Aktion und l\u00f6st eine Kaskade von physiologischen und Verhaltens\u00e4nderungen aus, die f\u00fcr eine schnelle Abwehrreaktion optimiert sind:<\/span><\/p>\n

    \n
  • Herzfrequenz und Blutdruck steigen an und bereiten den K\u00f6rper auf \"Kampf oder Flucht\" vor.<\/span><\/li>\n
  • Die Aufmerksamkeit verengt sich und sch\u00e4rft sich, um die Quelle der Gefahr zu erkennen.<\/span><\/li>\n
  • Die Reflexe werden schneller, die Muskeln sind bereit f\u00fcr blitzschnelles Ausweichen<\/span><\/li>\n
  • Die kognitive Verarbeitung geht in einen schnellen, intuitiven Modus \u00fcber, in dem es besser ist, auf Nummer sicher zu gehen.<\/span><\/li>\n<\/ul>\n

    Diese Reaktion ist kein einfacher Reflex, sondern eine \u00e4u\u00dferst anpassungsf\u00e4hige, kontextabh\u00e4ngige Folge von Ver\u00e4nderungen, die das Verhalten flexibel an die Art und Schwere der jeweiligen Bedrohung anpassen.<\/p>\n

    Sie ist auch au\u00dfergew\u00f6hnlich schnell. Wir werden uns einer Bedrohung etwa 300-400 Millisekunden nach der ersten Erkennung bewusst.<\/span><\/p>\n

    Au\u00dferdem arbeitet die Amygdala nicht isoliert. Sie ist eng mit anderen wichtigen Hirnregionen vernetzt, die an Wahrnehmung, Ged\u00e4chtnis, Denken und Handeln beteiligt sind.<\/span><\/p>\n

    Warum Angst der KI n\u00fctzen k\u00f6nnte<\/h2>\n

    Warum ist Angst im Zusammenhang mit KI \u00fcberhaupt wichtig?<\/span><\/p>\n

    In biologischen Systemen ist Angst ein entscheidender Mechanismus, um Bedrohungen schnell zu erkennen und darauf zu reagieren. Wenn wir dieses System in der KI nachahmen, k\u00f6nnen wir m\u00f6glicherweise robustere und anpassungsf\u00e4higere k\u00fcnstliche Systeme schaffen.<\/span><\/p>\n

    Dies gilt insbesondere f\u00fcr autonome Systeme, die mit der realen Welt interagieren. Ein Beispiel: Obwohl sich die KI-Intelligenz in den letzten Jahren explosionsartig entwickelt hat, sind fahrerlose Autos in puncto Sicherheit und Zuverl\u00e4ssigkeit immer noch unzureichend.\u00a0<\/span><\/p>\n

    Die Aufsichtsbeh\u00f6rden untersuchen zahlreiche t\u00f6dliche Unf\u00e4lle mit selbstfahrenden Autos, darunter auch Tesla-Modelle mit Autopilot und Full Self-Driving-Funktionen.\u00a0<\/span><\/p>\n