Ein KI-Unternehmen namens VERSES hat mit einem Plakat vor dem Hauptsitz von OpenAI in San Francisco eine mutige Aussage gemacht. Auf der Plakatwand stand: "Got AGI? Would you like to?"
Zusammen mit der Plakatwand veröffentlichte VERSES eine Offener Brief an OpenAI in der New York Times. Der Brief lädt OpenAI ein, an dem, was VERSES als den vielversprechendsten Weg zu künstlicher allgemeiner Intelligenz (AGI) bezeichnet, mitzuarbeiten.
Das VERSES AI Research Lab wird von dem bekannten britischen Neurowissenschaftler Dr. Karl Friston geleitet, der auch Professor für bildgebende Neurowissenschaften am University College London ist.
In dem Schreiben erklärt Gabriel René, CEO von VERSES, dass grundlegende Modelle wie GPT-4 zwar erstaunliche Fortschritte gemacht haben, "aber nicht zu einer anpassungsfähigen, sicheren oder nachhaltigen AGI führen werden".
AGI, eine KI, die so effizient und flexibel wie ein Mensch verstehen, lernen und ihr Wissen anwenden kann, ist das erklärte Ziel von OpenAI. Bei der Verleihung des Hawking Fellowship Award an der Universität Cambridge im vergangenen Monat sagte Sam Altman, CEO von OpenAI: "Wir brauchen einen weiteren Durchbruch", um AGI zu erreichen.
VERSES behauptet, dass sein Active Inference-Ansatz zur Entwicklung intelligenter Agenten dieser Durchbruch ist.
Der Brief fordert OpenAI auf, die in ihrer Charta eingegangene Verpflichtung einzuhalten, die besagt, dass "wenn ein wertorientiertes, sicherheitsbewusstes Projekt in die Nähe der Entwicklung von AGI kommt, bevor wir es tun, wir uns verpflichten, nicht mehr mit diesem Projekt zu konkurrieren, sondern es zu unterstützen".
Es ist unklar, ob jemand bei VERSES versucht hat, OpenAI anzurufen, bevor er den Weg des offenen Briefes und der Plakate ging. Vielleicht waren Sams DMs ausgeschaltet. Bislang gibt es keinen Kommentar von OpenAI oder Altman.
VERSES identifiziert neuen Weg zur AGI und lädt OpenAI in einem offenen Brief zur Zusammenarbeit ein @nytimes. https://t.co/s1JU4rrYM8 pic.twitter.com/KZxn1D7qOe
- helloVERSES (@helloVERSES) 19. Dezember 2023
Aktive Inferenz und freie Energie
VERSES ist der Meinung, dass bei der Entwicklung von AGI tiefes Lernen nicht ausreicht. Friston und sein Forschungsteam haben einen alternativen Ansatz entwickelt, der als Active Inference bekannt ist. Laut VERSES basiert Active Inference "auf ersten Prinzipien und orientiert sich an dem natürlichen Bauplan für Intelligenz in biologischen Systemen".
Im Jahr 2022 veröffentlichten Friston und eine lange Liste namhafter Wissenschaftler Forschungsarbeiten über Entwurf von Ökosystemen der Intelligenz nach ersten Prinzipien und Das Prinzip der freien Energie für Wahrnehmung und Handlung: Eine Deep-Learning-Perspektive.
Professor Cathy Price, Direktorin des Wellcome-Zentrum für Human Neuroimagingwird in beiden Papieren erwähnt. Sie sagt, dass das Forschungszentrum, dessen wissenschaftlicher Leiter Friston ist, sein "Fachwissen nutzt, um zu untersuchen, wie das menschliche Gehirn Verhalten, Gedanken und Gefühle erzeugt".
Diese Forschung bildet die Grundlage für die Entwicklungen, die VERSES nach eigenen Angaben gemacht hat. Es handelt sich um äußerst komplexe Papiere, aber hier ist der Versuch einer einfachen Erklärung, was dem Durchbruch zugrunde liegt.
Das Prinzip der freien Energie legt nahe, dass biologische Systeme, wie das menschliche Gehirn, versuchen, die so genannte "freie Energie" zu minimieren. Die freie Energie ist ein Maß für die Differenz zwischen dem, was ein Gehirn durch Sinneseindrücke wahrnimmt, und dem, was es aufgrund seines Modells der Welt erwartet.
Aktive Inferenz ist der Prozess des Gehirns, sein internes Modell anzupassen, um die freie Energie zu minimieren. Es passt nicht nur sein Modell an, um die Welt besser vorhersagen zu können, sondern handelt auch so, dass die Welt berechenbarer wird und seinen Erwartungen entspricht.
Wir mögen keine Überraschungen oder Ungewissheit. Wenn unser Gehirn also etwas erwartet, aber etwas anderes passiert, dann mäßigen wir unsere Erwartungen an die reale Welt. Wenn wir eine KI entwickeln können, die das kann, haben wir einen selbstlernenden Agenten, der nur sehr wenig Input braucht, um loszulegen.
Kühne Behauptungen
VERSES behauptet, dass es vor kurzem einen bedeutenden Durchbruch bei der aktiven Inferenz erzielt hat. Die intelligenten Agenten, die das Unternehmen entwickelt hat, entsprechen der Leistung des modernsten Deep Learning und übertreffen diese häufig.
Das ist eine gewagte Behauptung, wenn man bedenkt, dass das Unternehmen im Wesentlichen behauptet, dass seine Modelle GPT-4 und Gemini übertreffen.
VERSES sagt, dass diese Agenten "um Größenordnungen weniger Eingabedaten benötigen und auf Energieeffizienz optimiert sind, speziell entwickelt für intelligentes Computing am Rande, nicht nur in der Cloud."
Hat VERSES gerade den Durchbruch angekündigt, der die AGI hervorbringen wird? Wenn ja, wird es interessant sein, zu sehen, ob OpenAI seinen eigenen Weg weiterverfolgt oder sein Wort hält und ein vielversprechenderes Projekt unterstützt.
