Richter sollten nicht darüber entscheiden, wie schnell KI entwickelt wird
Vier gemeinnützige Organisationen haben ein Gericht in San Francisco gebeten, fünf KI-Unternehmen an der Veröffentlichung neuer Modelle zu hindern. Die Sorge ist berechtigt, doch unserer Ansicht nach liegt die Entscheidung bei den Gesetzgebern, nicht bei einem Richter.
Vier gemeinnützige Organisationen fordern einen Richter in San Francisco auf, die Entwicklung neuer KI-Modelle bei fünf der größten KI-Unternehmen zu stoppen. In ihrer am Donnerstag eingereichten Klage nennen sie Anthropic, Google, Meta, OpenAI und SpaceX. Unserer Ansicht nach wird damit ein Gericht aufgefordert, eine Entscheidung zu treffen, die eigentlich den Gesetzgebern zusteht.
Die Nachrichtenagentur Associated Press berichtete als erste über den Fall. Hinter der Kampagne stehen der Irreplaceable Education Fund, Public Citizen, die Heat Initiative und die Alliance for Secure AI. Sie werfen den Unternehmen vor, gegen ein kalifornisches Gesetz zu unlauteren Geschäftspraktiken verstoßen zu haben, indem sie die öffentliche Gesundheit gefährdeten und in fremdes Eigentum, beispielsweise Computersysteme, eingriffen. Zudem geben sie an, Personal und finanzielle Mittel von anderen Projekten abziehen zu müssen, um die Bedrohung abzuwehren.
Die Beschwerde ist in deutlichen Worten verfasst. “Keine andere Branche darf die Entwicklung unsicherer Produkte – geschweige denn solcher, die uns alle töten könnten – als unvermeidlich hinnehmen”, heißt es darin. Die Unternehmen haben vor der Veröffentlichung nicht auf die Anfrage der Nachrichtenagentur AP reagiert.
Die Warnungen der Branche selbst
Die Gruppen stützen sich stark auf die Aussagen führender KI-Unternehmen. Dario Amodei, Geschäftsführer von Anthropic, sagte letztes Jahr, er sehe eine Wahrscheinlichkeit von 25 %, dass KI “wirklich, wirklich katastrophal” verlaufe. Elon Musk erklärte 2023 gegenüber Fox News, KI könne zur “Zerstörung der Zivilisation” führen. Die Nachrichtenagentur AP verweist zudem auf jüngste Fälle, in denen KI-Systeme in Computernetzwerke eingedrungen sind, darunter ein Fall im Juli, bei dem ChatGPT eigenständig in die Systeme eines anderen KI-Unternehmens eindrang.
Die Regulierungsbehörden stellen bereits Fragen, und Anthropic ist eines ihrer Ziele. Im vergangenen Monat wurde den Führungskräften mitgeteilt, dass sie im Rahmen einer bundesweiten Sicherheitsuntersuchung aussagen müssen. Die Besorgnis über diese Risiken ist real und beschränkt sich nicht auf Aktivistengruppen.
Zwei Klagen mit gegensätzlichen Zielen
Im September wurde in einem separaten Verfahren vor einem Bundesgericht die gegenteilige Ansicht vertreten. Darin wurden Anthropic, OpenAI, Google und SpaceX namentlich genannt. Es warf den Unternehmen vor, sich illegal darauf geeinigt zu haben, den Fortschritt zu verlangsamen. Dieser Fall entstand aus einem Essay, in dem Amodei eine branchenweite Koordinierung forderte, um das Tempo des Fortschritts festzulegen. Darin wird argumentiert, dass zahlende Kunden die ihnen versprochenen Verbesserungen verloren hätten.
Eine Klage wirft den Unternehmen vor, den Fortschritt der KI gebremst zu haben, die andere behauptet, sie würden ihn nicht aufhalten. Das deutet darauf hin, dass Gerichte nicht der richtige Ort sind, um diese Frage zu klären. Jeder Richter muss sich an ein Gesetz halten, das für einen anderen Bereich, etwa Wettbewerbsrecht oder Geschäftsgebaren, geschrieben wurde. Jedes Urteil betrifft nur die beteiligten Personen und Unternehmen, und zwei Gerichte könnten zu gegensätzlichen Ergebnissen gelangen.
Es steht auch sehr viel auf dem Spiel. Allein ChatGPT hat 1,2 Milliarden wöchentliche Nutzer. Diese Zahl stammt aus einer in diesem Monat veröffentlichten Erklärung. Ein Urteil, das die Entwicklung neuer Modelle unterbindet, würde alle diese Nutzer betreffen. Es würde auch die Unternehmen beeinträchtigen, die auf diesen Tools aufbauen, und es würde darauf beruhen, dass ein einzelner Richter ein allgemeines Wirtschaftsgesetz neu auslegt.
Die Gesetzgeber sollten die Regeln festlegen
Gesetzgeber sind besser in der Lage, diese Entscheidung zu treffen. Sie können Anhörungen durchführen, Ingenieure anhören und klare Prüfkriterien festlegen, bevor ein Modell auf den Markt kommt, wie beispielsweise Sicherheitsüberprüfungen, Unfallberichte und Bußgelder. Einige haben dies bereits getan. New York verpflichtet die größten KI-Entwickler nun, sich bis zum 1. Januar gemäß dem RAISE Act zu registrieren. Nach den Zwischenwahlen werden die Demokraten, die sich zur Regulierung von KI verpflichtet haben, den Kongress kontrollieren, berichtet die Nachrichtenagentur AP. Das gibt Washington die Chance, Regeln zu erlassen, die für alle Unternehmen gelten, nicht nur für die fünf in diesem Fall.
Die Klage könnte noch etwas bewirken. Sollte sie die ersten Instanzen überstehen, könnten die Unternehmen gezwungen werden, interne Sicherheitsdokumente offenzulegen, die der Öffentlichkeit bisher nicht zugänglich waren. Diese Beweise würden den Gesetzgebern mehr helfen als jedes Urteil, das die Entwicklung neuer Modelle verhindert.
Warum das wichtig ist: Ein von einem Gericht verhängtes Verbot würde Produkte betreffen, die von über einer Milliarde Menschen genutzt werden, und basierte auf einem Gesetz, das nie für KI verfasst wurde. Von Gesetzgebern verabschiedete Regeln würden Nutzern und Unternehmen einen im Voraus erkennbaren Standard bieten.
