Japan entwirft KI-Sicherheitsregeln mit Strafen

Japans wichtigstes KI-Gesetz ist seit 2025 in Kraft und sieht keinerlei Strafen vor. Regierungsberater haben nun einen Plan entworfen, dies für die leistungsstärksten KI-Systeme zu ändern. Unternehmen, die eine offizielle Anordnung missachten, könnten mit einer Strafe belegt werden.

Der Entwurf wurde am Mittwoch, dem 11. November, in einer nichtöffentlichen Sitzung einer Arbeitsgruppe des Kabinettsbüros, der dem Premierminister unterstehenden Behörde, vorgestellt. Die Regierung hat die Dokumente des Treffens online veröffentlicht. Japan hat sein KI-Gesetz im Mai 2025 verabschiedet. Heute kann die Regierung ein Unternehmen untersuchen und ihm Hinweise geben, aber sie kann das Unternehmen nicht zum Handeln zwingen.

Vier Schritte, von Berichten bis zu Anordnungen

Die neuen Regeln würden nicht alle KI-Systeme erfassen. Sie träfen nur dann zu, wenn zwei Bedingungen erfüllt sind: KI mit einer Leistungsfähigkeit oberhalb eines bestimmten Niveaus und eine Reihe spezifischer, schwerwiegender Risiken. Andere KI-Systeme würden weiterhin den bestehenden Gesetzen und Richtlinien unterliegen. Den Sitzungsunterlagen zufolge besteht der Entwurf aus vier Teilen.

• Unternehmen, die diese Kriterien erfüllen, müssen Maßnahmen ergreifen, um ihre KI vor diesen Risiken zu schützen.
• Sie müssen der Regierung Informationen über diese Risiken melden.
• Die Regierung könnte einem Unternehmen, das die Anforderungen nicht erfüllt, formell Maßnahmen empfehlen.
• Bei Bedarf könnte die Regierung eine verbindliche Anordnung erlassen, deren Verletzung mit Strafen verbunden ist.

Die Mitglieder der Gruppe nannten Cyberangriffe sowie Angriffe mit chemischen, biologischen, radiologischen, nuklearen oder explosiven Waffen als Risiken, die Handlungsbedarf erfordern. Die Regeln würden sich in erster Linie an Unternehmen richten, die KI anbieten, nicht an deren Nutzer. Die Gruppe muss noch festlegen, welche Arten von Unternehmen – von Forschungslaboren bis hin zu Firmen, die KI-Dienstleistungen verkaufen – erfasst werden sollen. Die Mitglieder betonten außerdem, dass die Regeln auch ausländische Unternehmen betreffen müssen, damit die Last nicht allein auf japanischen Firmen lastet.

Sechs Unternehmen nahmen teil

Sechs Unternehmen stellten sich der Gruppe vor. Drei davon waren japanische Unternehmen: der Telekommunikationskonzern NTT, das Startup Sakana AI und SB Intuitions. Die anderen drei waren Anthropic Japan, Google und OpenAI Japan. Jedes Unternehmen wurde zu den Risiken der KI, seinen eigenen Sicherheitsmaßnahmen und den von ihm unterstützten Regeln befragt.

Laut der Nachrichtenagentur Kyodo sollen Strafen voraussichtlich nur für Vorfälle gelten, bei denen hochentwickelte KI im Spiel ist. Die Gruppe beabsichtigt, bis Ende des Jahres einen Entwurf der Änderungen, einschließlich etwaiger Gesetzesrevisionen, zu veröffentlichen. Die Höhe einer möglichen Strafe steht noch nicht fest.

Die Sitzungsunterlagen vergleichen den Plan auch mit den Regelungen in den USA und der EU. New York und Illinois räumen den größten KI-Entwicklern 72 Stunden ein, um einen kritischen Sicherheitsvorfall zu melden, Kalifornien 15 Tage. Gemäß dem EU-KI-Gesetz können Unternehmen hinter den leistungsstärksten Modellen mit einer Geldstrafe von bis zu 3 % ihres weltweiten Umsatzes oder 15 Millionen Euro belegt werden.

New York hat diese Woche die Registrierung gemäß seinem eigenen KI-Sicherheitsgesetz eröffnet. Australien kündigte außerdem Pläne für eine Aufsichtsbehörde für KI-Sicherheit an.

Warum das wichtig ist: Japan hat sich bisher auf freiwillige Leitlinien für KI verlassen. Sollte dieser Gesetzesentwurf in Kraft treten, würden die größten KI-Labore in Japan, der EU und mehreren US-Bundesstaaten Sicherheitsbestimmungen mit entsprechenden Strafen unterliegen.