Die KI-Unternehmen in Kalifornien atmeten erleichtert auf, als Gouverneur Gavin Newsom sein Veto gegen das KI-Sicherheitsgesetz SB 1047 einlegte, das der Senat des Bundesstaates Anfang des Monats verabschiedet hatte.
Der umstrittene Gesetzesentwurf würde zusätzliche Sicherheitsprüfungen für KI-Modelle vorschreiben, die einen Schwellenwert für Trainingsberechnungen oder Kosten überschreiten, wenn er unterzeichnet wird. Für diese Modelle wäre ein "Kill Switch" erforderlich, und die Hersteller der Modelle müssten hohe Geldstrafen zahlen, wenn sie einen "kritischen Schaden" verursachen würden.
In seinem Schreiben an den kalifornischen Staatssenat erklärte Newsom die Gründe für seine Entscheidung ein Veto gegen den Gesetzentwurf einzulegen.
Er wies darauf hin, dass einer der Gründe dafür, dass in Kalifornien 32 der 50 weltweit führenden KI-Unternehmen angesiedelt sind, die "freie Kultivierung der geistigen Freiheit" in diesem Bundesstaat ist. Er erwähnte nicht das Risiko, dass einige dieser Unternehmen Kalifornien verlassen, aber er deutete an, welche Auswirkungen das Gesetz auf sie haben würde.
Newsom sagte, der Hauptgrund für sein Veto gegen den Gesetzentwurf sei, dass er zu weit gefasst sei und die Schwelle für die Regulierung nicht den tatsächlichen Risiken entspreche.
Er sagte: "Indem SB 1047 sich nur auf die teuersten und groß angelegten Modelle konzentriert, schafft er einen Regelungsrahmen, der der Öffentlichkeit ein falsches Gefühl der Sicherheit bei der Kontrolle dieser sich schnell entwickelnden Technologie vermitteln könnte. Kleinere, spezialisierte Modelle könnten sich als ebenso gefährlich oder sogar noch gefährlicher erweisen als die Modelle, auf die SB 1047 abzielt - mit dem potenziellen Nachteil, dass genau die Innovationen eingeschränkt werden, die den Fortschritt zum Wohle der Allgemeinheit vorantreiben."
Newsom sagte, dass eine Regulierung der KI-Risiken notwendig sei, dass aber eine Konzentration auf riskante Anwendungen anstelle des pauschalen Ansatzes von SB 1047 die bessere Option sei.
"SB 1047 berücksichtigt nicht, ob ein KI-System in risikoreichen Umgebungen eingesetzt wird, kritische Entscheidungen trifft oder mit sensiblen Daten arbeitet. Stattdessen werden in dem Gesetzentwurf selbst für die grundlegendsten Funktionen strenge Maßstäbe angelegt - solange ein großes System sie einsetzt. Ich glaube nicht, dass dies der beste Ansatz ist, um die Öffentlichkeit vor den realen Bedrohungen zu schützen, die von dieser Technologie ausgehen", erklärte Newsom.
Newsom lehnte es zwar ab, SB 1047 zu unterzeichnen, verwies aber auf andere KI-Verordnungen, die er diesen Monat unterzeichnete, als Beweis dafür, dass er die mit KI verbundenen Risiken ernst nimmt.
Er fasste sein Engagement für die Sicherheit und den Fortschritt der KI mit den Worten zusammen: "Wenn es um den Schutz vor tatsächlichen Bedrohungen geht, ohne das Versprechen dieser Technologie, das Gemeinwohl zu fördern, unnötig zu vereiteln, müssen wir das richtig machen."
Senator Scott Weiner war verständlicherweise unglücklich darüber, dass Newsom es ablehnte, das von ihm verfasste Gesetz zu unterzeichnen.
Weiner sagte: "Dieses Veto ist ein Rückschlag für jeden, der an die Aufsicht über riesige Unternehmen glaubt, die kritische Entscheidungen treffen, die die Sicherheit und das Wohlergehen der Öffentlichkeit und die Zukunft des Planeten betreffen... Dieses Veto lässt uns mit der beunruhigenden Realität zurück, dass Unternehmen, die eine extrem mächtige Technologie schaffen wollen, keine verbindlichen Beschränkungen durch die US-Politiker haben, insbesondere angesichts der anhaltenden Lähmung des Kongresses in Bezug auf die Regulierung der Tech-Industrie in irgendeiner sinnvollen Weise."
Während Weiner das Scheitern des Gesetzes beklagte, dankten Yann LeCun von Meta und der Risikokapitalgeber Marc Andreesen Newsom öffentlich für das Veto.
Wir werden abwarten müssen, ob Newsoms Entscheidung ein Beispiel für vorausschauende Führung oder ein Grund zum Bedauern ist.
