New York gibt großen KI-Laboren bis zum 1. Januar Zeit, sich gemäß dem RAISE Act zu registrieren

Die größten KI-Unternehmen stehen nun in New York unter Zeitdruck. Jeder führende KI-Entwickler mit einem Jahresumsatz von mehr als 500 Millionen US-Dollar muss sich bis zum 1. Januar 2027 beim Staat registrieren und hat ab diesem Zeitpunkt 72 Stunden Zeit, um einen schwerwiegenden Sicherheitsvorfall zu melden.

Das Registrierungsportal wurde am Dienstag, den 10. November, eröffnet. Die Ankündigung erfolgte aus dem Büro des Gouverneurs, zusammen mit der Vorstellung eines neuen staatlich geförderten Zentrums zum Testen von KI-Systemen. Die Regeln stammen aus dem RAISE Act, einem New Yorker Gesetz zur Sicherheit und Transparenz von KI. Eine neu eingerichtete Abteilung namens DIGIT, die der Finanzaufsichtsbehörde des Bundesstaates angegliedert ist, wird sie umsetzen.

Wer muss sich anmelden?

Das Gesetz umfasst “Frontier-Modelle”, womit die größten KI-Systeme gemeint sind. Die Richtlinien der Regulierungsbehörde definieren sie anhand der Rechenleistung, die für ihr Training verwendet wurde. Modelle, die mit mehr als 10^26 Operationen trainiert wurden, fallen unter das Gesetz. Nur wenige Labore erreichen heute diese Rechenleistung. Ein KI-Unternehmen gilt als großer Entwickler, wenn es und seine Tochtergesellschaften im vorangegangenen Kalenderjahr mehr als 500 Millionen US-Dollar Umsatz erzielt haben.

Diese großen KI-Unternehmen müssen vier Hauptpflichten erfüllen:

• Sie müssen sich beim Staat registrieren und die Anmeldung mindestens alle zwei Jahre erneuern.
• Sie müssen einen Sicherheitsplan veröffentlichen, der erläutert, wie sie katastrophale Risiken bewerten und reduzieren und wie sie noch nicht freigegebene Modelle schützen.
• Alle drei Monate müssen sie der Aufsichtsbehörde eine Zusammenfassung der katastrophalen Risiken übermitteln, die sie bei der internen Anwendung ihrer eigenen Modelle festgestellt haben.
• Jedes Mal, wenn sie ein neues oder wesentlich verändertes Modell auf den Markt bringen, müssen sie einen Transparenzbericht darüber veröffentlichen.

Auch kleinere KI-Unternehmen, die Modelle dieser Größenordnung trainieren, müssen kritische Sicherheitsvorfälle melden und Transparenzberichte veröffentlichen. Besteht bei einem Vorfall eine unmittelbare Gefahr für Leib und Leben, muss dieser laut den Richtlinien innerhalb von 24 Stunden der zuständigen Behörde gemeldet werden.

Strafen für Regelverstöße

Laut Berichten über das Gesetz können die Strafen für einen ersten Verstoß bis zu 1 Million Dollar und für weitere Verstöße bis zu 3 Millionen Dollar betragen. Der Staat hat nicht mitgeteilt, was mit einem Unternehmen passiert, das sich einfach nicht registriert.

New York gründet außerdem das New York Center for AI Responsibility and Research an der Binghamton University. Dort werden über 80 Forscher zusammenarbeiten, um fortschrittliche KI-Systeme unabhängig zu testen und die von Unternehmen veröffentlichten Sicherheitsrahmen zu überprüfen. Das Zentrum wird durch eine philanthropische Spende in Höhe von 30 Millionen US-Dollar und eine anfängliche Förderung von 25 Millionen US-Dollar durch das staatliche Universitätssystem finanziert.

“Es steht zu viel auf dem Spiel, als dass man KI-Unternehmen einfach beim Wort nehmen könnte”, sagte Gouverneurin Kathy Hochul.

Im vergangenen Monat unterzeichnete New York außerdem ein Gesetz, das die Möglichkeiten von Chatbots im Umgang mit Kindern einschränkt. Diese Woche kündigte Australien Pläne für eine eigene Regulierungsbehörde für KI-Sicherheit an.

Warum das wichtig ist: Ab dem 1. Januar verpflichtet ein New Yorker Gesetz die größten KI-Labore, die staatliche Aufsichtsbehörde über schwerwiegende Fehler zu informieren. Die 72-Stunden-Frist ermöglicht es der Öffentlichkeit, von gravierenden KI-Fehlern zu erfahren, die Unternehmen andernfalls möglicherweise verschweigen würden.