{"id":12519,"date":"2024-05-22T18:16:07","date_gmt":"2024-05-22T18:16:07","guid":{"rendered":"https:\/\/dailyai.com\/?p=12519"},"modified":"2024-05-24T10:16:44","modified_gmt":"2024-05-24T10:16:44","slug":"decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/05\/decoding-the-ai-mind-anthropic-researchers-peer-inside-the-black-box\/","title":{"rendered":"Entschl\u00fcsselung des KI-Gehirns: Anthropologische Forscher blicken in die \"Black Box\""},"content":{"rendered":"

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> haben die Forscher erfolgreich Millionen von Konzepten innerhalb Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> Sonnet, einer ihrer fortgeschrittenen LLMs.<\/b><\/p>\n

KI-Modelle werden oft als Blackboxen betrachtet, d. h. man kann nicht in sie hineinsehen, um zu verstehen, wie sie genau funktionieren.\u00a0<\/span><\/p>\n

Wenn Sie einem LLM eine Eingabe machen, erzeugt es eine Antwort, aber die Gr\u00fcnde f\u00fcr seine Entscheidungen sind nicht klar. <\/span><\/p>\n

Sie geben etwas ein, und das Ergebnis kommt heraus - und nicht einmal die KI-Entwickler selbst verstehen wirklich, was in dieser \"Box\" passiert.\u00a0<\/span><\/p>\n

Neuronale Netze erstellen ihre eigenen internen Repr\u00e4sentationen von Informationen, wenn sie w\u00e4hrend des Datentrainings Eingaben auf Ausgaben abbilden.\u00a0<\/span>Die Bausteine dieses Prozesses, die so genannten \"Neuronenaktivierungen\", werden durch numerische Werte dargestellt. <\/span><\/p>\n

Jedes Konzept ist auf mehrere Neuronen verteilt, und jedes Neuron tr\u00e4gt zur Darstellung mehrerer Konzepte bei, was es schwierig macht, Konzepte direkt einzelnen Neuronen zuzuordnen.<\/span><\/p>\n

Dies ist im Gro\u00dfen und Ganzen vergleichbar mit unseren menschlichen Gehirnen. So wie unser Gehirn Sinneseindr\u00fccke verarbeitet und Gedanken, Verhaltensweisen und Erinnerungen erzeugt, sind die Milliarden, ja Billionen von Prozessen, die hinter diesen Funktionen stehen, der Wissenschaft noch weitgehend unbekannt.<\/span><\/p>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>Studie<\/span><\/a> versucht, mit einer Technik namens \"W\u00f6rterbuchlernen\" einen Blick in die Blackbox der KI zu werfen.\u00a0<\/span><\/p>\n

Dabei werden komplexe Muster in einem KI-Modell in lineare Bausteine oder \"Atome\" zerlegt, die f\u00fcr den Menschen intuitiv verst\u00e4ndlich sind.<\/span><\/p>\n

Abbildung von LLMs mit Dictionary Learning<\/h2>\n

Im Oktober 2023, Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> wandte diese Methode auf ein kleines \"Spielzeug\"-Sprachmodell an und fand koh\u00e4rente Merkmale, die Konzepten wie Gro\u00dfbuchstaben, DNA-Sequenzen, Nachnamen in Zitaten, mathematischen Substantiven oder Funktionsargumenten in Python-Code entsprechen.<\/span><\/p>\n

In dieser neuesten Studie wird die Technik so erweitert, dass sie auch f\u00fcr die gr\u00f6\u00dferen KI-Sprachmodelle von heute geeignet ist, Anthropic<\/span><\/span><\/span><\/span>'s Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3 Sonett.\u00a0<\/span><\/p>\n

Im Folgenden wird Schritt f\u00fcr Schritt beschrieben, wie die Studie ablief:<\/span><\/p>\n

Erkennen von Mustern mit W\u00f6rterbuchlernen<\/b><\/h4>\n

Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> verwendet W\u00f6rterbuchlernen, um Neuronenaktivierungen in verschiedenen Kontexten zu analysieren und gemeinsame Muster zu erkennen. <\/span><\/p>\n

Beim W\u00f6rterbuchlernen werden diese Aktivierungen zu einer kleineren Menge aussagekr\u00e4ftiger \"Merkmale\" zusammengefasst, die vom Modell erlernte Konzepte auf h\u00f6herer Ebene darstellen. <\/span><\/p>\n

Durch die Identifizierung dieser Merkmale k\u00f6nnen die Forscher besser verstehen, wie das Modell Informationen verarbeitet und darstellt.<\/span><\/p>\n

Extraktion von Merkmalen aus der mittleren Schicht<\/b><\/h4>\n

Die Forscher konzentrierten sich auf die mittlere Schicht der Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> 3.0 Sonnet, das als kritischer Punkt in der Verarbeitungspipeline des Modells dient. <\/span><\/p>\n

Durch die Anwendung des W\u00f6rterbuchlernens auf diese Ebene werden Millionen von Merkmalen extrahiert, die die internen Repr\u00e4sentationen des Modells und die gelernten Konzepte in diesem Stadium erfassen. <\/span><\/p>\n

Die Extraktion von Merkmalen aus der mittleren Schicht erm\u00f6glicht es den Forschern, das Informationsverst\u00e4ndnis des Modells zu untersuchen nach<\/em> er hat die Eingabe verarbeitet vor<\/em> die Erzeugung der endg\u00fcltigen Ausgabe.<\/span><\/p>\n

Entdeckung vielf\u00e4ltiger und abstrakter Konzepte<\/b><\/h4>\n

Die extrahierten Merkmale zeigten eine breite Palette von Konzepten, die von Claude<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span>von konkreten Entit\u00e4ten wie St\u00e4dten und Menschen bis hin zu abstrakten Begriffen, die sich auf wissenschaftliche Bereiche und Programmiersyntax beziehen. <\/span><\/p>\n

Interessanterweise erwiesen sich die Merkmale als multimodal und reagierten sowohl auf textuelle als auch auf visuelle Eingaben, was darauf hindeutet, dass das Modell Konzepte \u00fcber verschiedene Modalit\u00e4ten hinweg lernen und darstellen kann. <\/span><\/p>\n

Dar\u00fcber hinaus deuten die mehrsprachigen Merkmale darauf hin, dass das Modell Konzepte erfassen kann, die in verschiedenen Sprachen ausgedr\u00fcckt werden.<\/span><\/p>\n

\"<span<\/p>\n

Analyse der Organisation von Konzepten<\/b><\/h3>\n

Um zu verstehen, wie das Modell die verschiedenen Konzepte organisiert und miteinander in Beziehung setzt, analysierten die Forscher die \u00c4hnlichkeit zwischen den Merkmalen auf der Grundlage ihrer Aktivierungsmuster. <\/span><\/p>\n

Sie entdeckten, dass Merkmale, die verwandte Konzepte darstellen, dazu neigen, sich zu gruppieren. So wiesen beispielsweise Merkmale, die mit St\u00e4dten oder wissenschaftlichen Disziplinen in Verbindung stehen, eine gr\u00f6\u00dfere \u00c4hnlichkeit untereinander auf als Merkmale, die nicht verwandte Konzepte darstellen. <\/span><\/p>\n

Dies deutet darauf hin, dass die interne Organisation der Konzepte des Modells bis zu einem gewissen Grad mit der menschlichen Intuition \u00fcber konzeptionelle Beziehungen \u00fcbereinstimmt.<\/span><\/p>\n

\"anthropisch\"
Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> es geschafft, abstrakte Begriffe wie \"innerer Konflikt\" abzubilden. Quelle: Anthropic<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.<\/figcaption><\/figure>\n

\u00dcberpr\u00fcfen der Merkmale<\/b><\/h4>\n

Um zu best\u00e4tigen, dass die identifizierten Merkmale einen direkten Einfluss auf das Verhalten und die Ergebnisse des Modells haben, f\u00fchrten die Forscher Experimente zur \"Merkmalssteuerung\" durch. <\/span><\/p>\n

Dabei wurde die Aktivierung bestimmter Merkmale w\u00e4hrend der Verarbeitung des Modells selektiv verst\u00e4rkt oder unterdr\u00fcckt und die Auswirkungen auf die Reaktionen des Modells beobachtet. <\/span><\/p>\n

Durch die Manipulation einzelner Merkmale konnten die Forscher eine direkte Verbindung zwischen einzelnen Merkmalen und dem Verhalten des Modells herstellen. So f\u00fchrte beispielsweise die Verst\u00e4rkung eines Merkmals, das sich auf eine bestimmte Stadt bezog, dazu, dass das Modell auch in irrelevanten Kontexten stadtbezogene Ergebnisse erzeugte.<\/span><\/p>\n

Lesen Sie die vollst\u00e4ndige Studie hier<\/a>.<\/p>\n