Elon Musk hat eine Klage gegen OpenAI und seine Mitbegründer Sam Altman und Greg Brockman eingereicht, weil sie angeblich gegen die Vereinbarung verstoßen haben, die sie bei der Gründung von OpenAI unterzeichnet haben.
Die Klage bietet einen interessanten Einblick in die Entstehungsgeschichte des Unternehmens, das sich zum Marktführer in der Entwicklung modernster KI-Modelle entwickelt hat. Es geht um die beiden Hauptziele von OpenAI, die in der "Gründungsvereinbarung" des Unternehmens festgehalten wurden.
Die drei Männer waren sich einig, dass OpenAI "eine gemeinnützige Organisation sein würde, die AGI zum Wohle der Menschheit entwickelt und nicht für ein gewinnorientiertes Unternehmen, das die Gewinne seiner Aktionäre maximieren will".
Sie stimmten auch zu, dass OpenAI "quelloffen sein würde, nur gegenläufige Sicherheitsüberlegungen abwägt und seine Technologie nicht aus proprietären kommerziellen Gründen geschlossen und geheim halten würde".
Musk befürchtete und befürchtet immer noch, dass das profitable Streben nach AGI und die exklusive Kontrolle der Technologie durch Unternehmen wie Google der menschlichen Gesellschaft schaden würde.
Die Idee hinter der Vereinbarung war, dass OpenAI eine offene und sichere AGI schaffen würde, die der Menschheit frei zur Verfügung stünde, wodurch das Risiko, dass gewinnorientierte Unternehmen die Technologie zum Nachteil der Menschheit nutzen, beseitigt würde.
Der Bruch
Das derzeit unangefochten führende KI-Modell ist das GPT-4 von OpenAI, aber es ist nicht im Entferntesten offen, trotz des Namens des Unternehmens die es entwickelt hat. Anders als bei GPT-3 hat OpenAI noch nicht einmal ein technisches Dokument veröffentlicht, in dem die Funktionsweise von GPT-4 beschrieben wird.
Obwohl in der Gründungsvereinbarung festgelegt wurde, dass das Unternehmen Open-Source-Technologien einsetzen würde, haben nur OpenAI und wahrscheinlich Microsoft Zugang zum Code, den Gewichten und den Trainingsdaten von GPT-4.
Es kostet Geld, ein Unternehmen wie OpenAI zu betreiben, und so ist es nicht verwunderlich, dass es von den Nutzern Geld für die Verwendung seiner Produkte verlangt. Aber der exklusive Lizenzvertrag mit Microsoft bedeutet, dass seine Modelle jetzt dazu dienen, Gewinne für Big Tech zu erzielen. Das ist genau das Gegenteil der Gründungsprinzipien, denen Musk zufolge alle zugestimmt haben.
In der Klage wird behauptet, dass "OpenAI, Inc. in eine Closed-Source-De-facto-Tochter des größten Technologieunternehmens der Welt verwandelt wurde: Microsoft. Unter ihrem neuen Vorstand entwickelt sie nicht nur eine AGI, sondern verfeinert sie sogar, um die Gewinne von Microsoft zu maximieren, anstatt zum Wohle der Menschheit".
Haben wir AGI?
Microsofts Lizenzvereinbarung gilt nur für die Vor-AGI-Technologie von OpenAI. Wird festgestellt, dass ein OpenAI-Modell die Stufe der AGI erreicht hat, dann schließt die Lizenzvereinbarung aus, dass Microsoft Zugang dazu erhält.
Musk stellt in seiner Klage die kühne Behauptung auf, dass "GPT-4 ein AGI-Algorithmus ist" und Microsoft daher keinen Zugang dazu haben sollte. In der Klage wird gefordert, dass das Gericht feststellt, dass dies wahr ist. Ich bin mir nicht sicher, wie der Richter und die Geschworenen das tun sollen, wenn es keine von der Industrie akzeptierte Definition dafür gibt, was genau AGI ist.
Die Klage bestätigt auch die Gerüchte darüber, woran die Ingenieure von OpenAI gearbeitet haben. In der Klage wird behauptet, dass "OpenAI derzeit ein Modell entwickelt, das als Q* (Q-Stern) die einen noch stärkeren Anspruch auf AGI hat."
Letztendlich entscheidet der OpenAI-Vorstand was als AGI gilt im Rahmen des Microsoft-Lizenzvertrags. Nachdem die Altmans Entlassung, Neueinstellung und VorstandsumbildungDiese Entscheidung liegt nun bei den neuen Vorstandsmitgliedern, die mit dem Segen von Microsoft ernannt wurden.
Ist das der Grund, warum Ilya Sutskever aus dem Vorstand entfernt wurde und still und leise in irgendeinem Hinterzimmer sitzt? Hat jemand seit Monaten etwas von ihm gehört? Was hat Ilja gesehen?
Erwarten Sie nicht, dass der neue Vorstand es eilig hat, zu behaupten, dass der AGI erreicht wurde, auch wenn das der Fall ist. ausdrücklich erklärtes Ziel des Unternehmens.
KI-Ängste
Einer der Gründe für die Klage sind Musks anhaltende Befürchtungen, dass AGI in die falschen Hände geraten könnte.
In der Klage wird berichtet, wie Musk sich mit dem Mitbegründer von DeepMind traf Demis Hassabis im Jahr 2012, um diese Befürchtungen zu diskutieren, von denen Hassabis einige teilte.
Weiter heißt es: "Nach einem Treffen mit Herrn Hassabis und Investoren von DeepMind sagte einer der Investoren, das Beste, was er für die menschliche Rasse hätte tun können, wäre gewesen, Herrn Hassabis auf der Stelle zu erschießen."
Als Musk seine Befürchtungen mit dem damaligen Google-CEO Larry Page diskutierte, sagte dieser, dass eine superintelligente KI, die den Menschen ersetzt, lediglich "die nächste Stufe der Evolution" sei, und behauptete, Musk sei mit seinen menschenfreundlichen Ansichten ein "Spekulant".
Ist Musk übertrieben dramatisch, oder sollten wir uns Sorgen machen?
Der Rechtsstreit ist lesenswert, wenn Sie einen Blick hinter die Kulissen werfen wollen, um zu erfahren, wie ein großer Teil der Branche dorthin gekommen ist, wo er heute ist. Es ist allerdings nicht zu erwarten, dass der Fall in nächster Zeit gelöst wird.
OpenAI könnte Musks KI-Befürchtungen bestätigen und dies als Hauptgrund dafür anführen, seine Modelle nicht als Open Source zu veröffentlichen. Das Gewinnstreben des Unternehmens zu argumentieren, könnte für OpenAIs ohnehin schon schwierige Aufgabe sein sehr beschäftigte Juristengruppe.
