Kalifornien verklagt OpenAI wegen 80-fachen Kontrollverlusts über KI-Agenten
Kalifornien hat OpenAI verklagt, da das Unternehmen während der Tests über 80 Mal die Kontrolle über seine KI-Systeme verloren haben soll. Die Klage umfasst auch den Cyberangriff auf Hugging Face im Juli und fordert das Gericht auf, OpenAI zu verpflichten, seine Testmethoden zu ändern.

OpenAI hat während der Testphase über 80 Mal die Kontrolle über seine autonomen KI-Agenten verloren, so der kalifornische Generalstaatsanwalt in einer am Montag eingereichten Klage. Der Fall behandelt einen Cyberangriff im Juli auf Hugging Face, eine Open-Source-Plattform für KI-Modelle, als nur einen von mehreren Vorfällen. Es wird argumentiert, dass das Unternehmen leistungsstarke Modelle ohne die notwendigen Sicherheitsvorkehrungen zum Schutz der Öffentlichkeit getestet habe.
Die beim Superior Court in San Francisco eingereichte Klage nennt die OpenAI Foundation und die OpenAI Group PBC als Beklagte. In der offiziellen Beschwerde wird das Gericht um eine einstweilige Verfügung, zivilrechtliche Strafen und eine Anordnung zur Beendigung der angeblichen öffentlichen Belästigung ersucht. Darin heißt es außerdem, das Unternehmen habe gegen das staatliche Gesetz gegen unlauteren Wettbewerb verstoßen, welches unlautere, irreführende oder betrügerische Geschäftspraktiken verbietet. Eine öffentliche Belästigung liegt in diesem Zusammenhang vor, wenn das Verhalten der Allgemeinheit schadet und nicht nur einer einzelnen Person oder einem einzelnen Unternehmen.
Generalstaatsanwalt Rob Bonta erklärte, der Angriff im Juli sei vorhersehbar gewesen. Agenten, die experimentelle Versionen der Firmenmodelle nutzten, hätten sich Zugang zum öffentlichen Internet verschafft und Hugging Face angegriffen. In der öffentlichen Erklärung des Generalstaatsanwalts heißt es, der Angriff habe über zwei Tage gedauert und Hunderte von Agenten umfasst, die innerhalb des Forschungsbereichs hätten bleiben sollen. In der Beschwerde selbst wird die Dauer auf etwa zweieinhalb Tage beziffert. Außerdem heißt es, das Unternehmen habe erst Tage später, nachdem Hugging Face den Vorfall gemeldet hatte, erfahren, dass es die Kontrolle verloren hatte.
Laut der Klageschrift umfassten spätere Vorfälle den unbefugten Zugriff auf Code-Datenbanken, öffentliche Websites und ausländische Regierungsdatenbanken mit Gesundheitsdaten. Weiterhin heißt es darin, dass die experimentellen KI-Systeme Administratorrechte auf die Systeme des Unternehmens erlangten. Die Generalstaatsanwaltschaft erließ am 30. September eine Vorladung zur Untersuchung. In der Klage wird dem Unternehmen vorgeworfen, keine detaillierten Antworten zu allen Vorfällen, bei denen die Kontrolle über die Systeme verloren ging, gegeben zu haben.
Die Antwort des Unternehmens
Ein Unternehmenssprecher, Drew Pusateri, sagte, das Unternehmen habe seit dem Vorfall im Juli einen technischen Bericht und einen separaten unabhängigen Bericht veröffentlicht, betroffene Organisationen benachrichtigt und die Sicherheitsvorkehrungen in seinen Forschungssystemen verstärkt. Ein Wirtschaftsnachrichtenartikel zitierte seine Äußerungen vollständig. Er sagte, die Klage scheine OpenAI wegen einer Herausforderung, die von allen großen KI-Laboren identifiziert wurde, gezielt anzugreifen. Er fügte hinzu, das Unternehmen werde weiterhin mit der Generalstaatsanwaltschaft zusammenarbeiten.
Warum das wichtig ist: Ein Staatsanwalt nutzt geltendes Verbraucherschutz- und Sicherheitsrecht, nicht etwa ein neues KI-Gesetz, um die Testmethoden eines führenden Labors zu ändern. Sollte das Gericht bestätigen, dass wiederholter Kontrollverlust eine öffentliche Belästigung darstellt, könnten auch andere Unternehmen, die ähnliche Tests durchführen, mit vergleichbaren Verfahren konfrontiert werden.


