Kalifornien erwägt mehrere Gesetzesentwürfe zur Regulierung von KI, wobei SB 1047 und AB 3211 enorme Auswirkungen auf KI-Entwickler haben werden, wenn sie im nächsten Monat Gesetz werden.
Die Diskussionen über KI-Risiken und deren Eindämmung gehen weiter, und in Ermangelung von US-Bundesgesetzen hat Kalifornien Gesetze ausgearbeitet, die für andere Bundesstaaten als Präzedenzfall dienen könnten.
SB 1047 und AB 3211 haben beide die kalifornische Staatsversammlung passiert und könnten nächsten Monat in Kraft treten, wenn der Senat über sie abstimmt.
Befürworter der Gesetzentwürfe sagen, dass sie längst überfälligen Schutz gegen die Risiken unsicherer KI-Modelle und von KI generierter synthetischer Inhalte bieten. Kritiker sagen, dass die in den Gesetzentwürfen enthaltenen Anforderungen die KI-Entwicklung in diesem Staat behindern werden, da sie nicht umsetzbar sind.
Hier ein kurzer Blick auf die beiden Gesetzesentwürfe und die Gründe, warum kalifornische KI-Entwickler eine Gründung in anderen Bundesstaaten in Betracht ziehen könnten.
SB 1047
Die SB 1047 "Gesetz über sichere Innovation für Grenzmodelle der künstlichen Intelligenz" (Safe and Secure Innovation for Frontier Artificial Intelligence Models Act) gilt für Hersteller von Modellen, deren Ausbildung $100 Millionen oder mehr kostet.
Diese Entwickler müssen zusätzliche Sicherheitsprüfungen durchführen und haften, wenn ihre Modelle einen "kritischen Schaden" verursachen.
Der Gesetzentwurf definiert "kritischen Schaden" als "die Schaffung oder den Einsatz einer chemischen, biologischen, radiologischen oder nuklearen Waffe in einer Weise, die zu einem Massensterben führt...oder einen Schaden von mindestens fünfhundert Millionen Dollar ($500.000.000), der durch Cyberangriffe auf kritische Infrastrukturen entsteht.
Dies mag eine gute Idee sein, um sicherzustellen, dass die Entwickler fortgeschrittener KI-Modelle ausreichend Sorgfalt walten lassen, aber ist dies auch praktikabel?
Ein Autohersteller sollte haften, wenn sein Fahrzeug unsicher ist, aber sollte er auch haften, wenn eine Person absichtlich mit seinem Fahrzeug in jemanden hineinfährt?
Der Chefwissenschaftler für KI bei Meta, Yann LeCun, sieht das anders. LeCun steht dem Gesetzentwurf kritisch gegenüber und sagte: "Die Regulierungsbehörden sollten Anwendungen regulieren, nicht die Technologie... Technologieentwickler für die schlechte Nutzung von Produkten haftbar zu machen, die auf ihrer Technologie basieren, wird die Technologieentwicklung einfach stoppen."
Der Gesetzentwurf sieht außerdem vor, dass die Hersteller von Modellen haftbar gemacht werden können, wenn jemand ein Derivat ihres Modells erstellt und damit Schaden anrichtet. Diese Anforderung wäre der Tod der Modelle mit offenem Gewicht, die ironischerweise, Das Handelsministerium hat die folgenden Punkte gebilligt.
SB 1047 passierte den kalifornischen Senat im Mai mit 32:1 Stimmen und wird zum Gesetz, wenn es im August vom Senat verabschiedet wird.
AB 3211
Die Kalifornisches Gesetz über Provenienz-, Echtheits- und Wasserzeichenstandards (California Provenance, Authenticity, and Watermarking Standards Act) (AB 3211) zielt darauf ab, Transparenz und Verantwortlichkeit bei der Erstellung und Verbreitung synthetischer Inhalte zu gewährleisten.
Wenn etwas durch KI generiert wurde, muss es dem Gesetzentwurf zufolge gekennzeichnet sein oder ein digitales Wasserzeichen haben, um dies zu verdeutlichen.
Das Wasserzeichen muss "maximal unauslöschlich sein...so gestaltet, dass es so schwer wie möglich zu entfernen ist". Die Industrie hat die C2PA-Provenienz-Standardaber es ist trivial, die Metadaten aus dem Inhalt zu entfernen.
Der Gesetzentwurf sieht vor, dass jedes dialogfähige KI-System "vor Beginn des Gesprächs die Zustimmung des Nutzers einholen" muss.
Jedes Mal, wenn Sie ChatGPT oder Siri verwenden, müsste das Gespräch also mit "Ich bin eine KI" beginnen. Verstehst du das und stimmst du dem zu? Jedes Mal.
Eine weitere Anforderung besteht darin, dass die Entwickler von generativen KI-Modellen ein Verzeichnis der von ihren Modellen erzeugten KI-Inhalte führen müssen, wenn diese als von Menschenhand erzeugt angesehen werden können.
Dies wäre wahrscheinlich unmöglich für die Urheber von offene Modelle. Wenn jemand das Modell herunterlädt und lokal ausführt, wie würden Sie dann überwachen, was er erzeugt?
Der Gesetzentwurf gilt für jedes in Kalifornien vertriebene Modell, unabhängig von seiner Größe oder dem Hersteller. Wenn das Gesetz nächsten Monat vom Senat verabschiedet wird, dürfen KI-Modelle, die dem Gesetz nicht entsprechen, nicht mehr in Kalifornien vertrieben oder sogar gehostet werden. Das tut mir leid für HuggingFace und GitHub.
Wenn Sie sich auf der falschen Seite des Gesetzes befinden, sind Geldstrafen in Höhe von "$1 Million oder 5% des weltweiten Jahresumsatzes des Verletzers, je nachdem, welcher Betrag höher ist", möglich. Das entspricht Milliarden von Dollar für Unternehmen wie Meta oder Google.
Die KI-Regulierung beginnt, die politische Unterstützung des Silicon Valley in Richtung der Trump-Verbündeten zu verschieben. "Amerika zum Vorreiter in Sachen KI machen" Ansatz. Wenn SB 1047 und AB 3211 nächsten Monat in Kraft treten, könnte dies einen Exodus von KI-Entwicklern auslösen, die in weniger regulierte Staaten fliehen.
