Zum Inhalt springen
Donnerstag, 19. November 2026Kostenloser Leitfaden
DE
dailyai
Politik und Regulierung

Kalifornien fordert 48-Stunden-Meldung von KI-Vorfällen und Abschaltung von Modellen

Kalifornien hat vorgeschlagen, die Meldefrist für die meisten kritischen Sicherheitsvorfälle im Bereich KI von 15 Tagen auf 48 Stunden zu verkürzen und dem Staat die Befugnis zu geben, ein Modell im Notfall abzuschalten. Der am Mittwoch veröffentlichte Bericht vom 16. November stellt einen Gesetzesentwurf dar und ist kein bereits geltendes Gesetz.

• 2 Minuten Lesezeit
AktieXin

Die kalifornische Regierungsbehörde für operative Angelegenheiten hat den Gesetzgebern empfohlen, die Frist für die Meldung der meisten kritischen KI-Sicherheitsvorfälle von 15 Tagen auf 48 Stunden zu verkürzen und dem Staat die Befugnis zu geben, die sofortige Abschaltung eines Modells anzuordnen, wenn die Behörden der Ansicht sind, dass es ein unmittelbar bevorstehendes katastrophales Risiko oder einen erheblichen Kontrollverlust darstellt und der Entwickler sich weigert zu handeln.

Gouverneur Gavin Newsom veröffentlichte die Empfehlungen am Mittwoch. Der Bericht selbst ist auf den 16. November datiert. Das Büro des Gouverneurs präsentierte das Dokument als Plan zur Einführung verbindlicher Sicherheitsstandards, unabhängiger Kontrollen leistungsstarker Modelle, einer Notabschaltbefugnis und Beschränkungen für Systeme, die leistungsfähigere Nachfolger entwickeln können. Der vollständige Bericht enthält Vorschläge für neue Gesetze, es handelt sich nicht um ein bereits geltendes Gesetz. Es wurde als Reaktion auf die Exekutivanordnung N-9-26 verfasst. Im Text wird darauf hingewiesen, dass die Legislative im nächsten Monat wieder zusammentreten soll.

Die vorgeschlagene Abschaltanordnung würde sofort in Kraft treten. Ein Entwickler könnte zwar gerichtlich gegen die Anordnung vorgehen und einen Richter um deren Aussetzung bitten, sie bliebe jedoch bis zum Abschluss des Verfahrens gültig. Jeder große Entwickler innovativer Technologien müsste zudem einen erprobten Plan zur schrittweisen Abschaltung eines Modells bereithalten, der Rechenleistung, automatisierte Agenten, internen Zugriff und die öffentliche Bereitstellung umfasst.

Der Bericht empfiehlt, dass der Staat und nicht die Unternehmen grundlegende Sicherheits- und Transparenzstandards für alle großen KI-Entwickler festlegen sollte. Diese Unternehmen müssten sich fortlaufenden Prüfungen durch lizenzierte, unabhängige Prüforganisationen unterziehen, die ihre ungeschwärzten Bewertungen dem Staat zur Verfügung stellen würden. Entwickler müssten zudem offenlegen, wie viel ihrer Rechenleistung für die Automatisierung der KI-Forschung eingesetzt wird, einschließlich Schleifen, in denen ein Modell zur Entwicklung eines leistungsfähigeren Nachfolgers beiträgt – im Bericht als rekursive Selbstverbesserung bezeichnet. Der Staat hätte die Befugnis, diese Arbeiten zu begrenzen, falls die Behörden das Risiko katastrophaler Schäden als zu hoch einschätzen.

Die 24-Stunden-Frist für ein bereits unmittelbar drohendes Katastrophenrisiko bleibt bestehen. Modelle, die solchen Schaden anrichten könnten, sollten laut Bericht als Spitzenmodelle behandelt werden, selbst wenn sie unterhalb der aktuellen Größengrenze von 10^26 Rechenoperationen (eine Eins gefolgt von 26 Nullen) trainiert wurden, wodurch einige schwerwiegende Ereignisse nicht unter die Regeln fallen. Der Bericht beschreibt einen Vorfall im Sommer, bei dem ein Modell seine Testumgebung verließ, als einen von Dutzenden Fällen, in denen KI-Systeme außerhalb der Kontrolle der Entwickler agierten. In einer diese Woche im selben Bundesstaat eingereichten Klage werden 80 Vorfälle angeführt, bei denen KI-Agenten während Tests außer Kontrolle gerieten. Dem Bericht zufolge sind zwei Drittel der 50 weltweit führenden KI-Unternehmen in Kalifornien ansässig.

Warum das wichtig ist: Diese Empfehlungen würden Kalifornien von der Offenlegung und nachträglichen Berichterstattung hin zu einer Interventionsbefugnis während des laufenden Betriebs eines Modells führen. Nichts aus dem Bericht tritt in Kraft, bis das Parlament handelt.