EU-Verhandlungsführer machen Fortschritte beim KI-Gesetz, aber abschließende Gespräche stehen noch aus

Die EU-Verhandlungen über das bahnbrechende Gesetz über künstliche Intelligenz wurden am Donnerstag vorübergehend unterbrochen, wobei die Parteien vereinbarten, am Freitag wieder zusammenzukommen. 

Die entscheidende Gespräche unter Beteiligung der EU-Mitgliedstaaten, der Europäischen Kommission und des Europäischen Parlaments geht in den dritten Tag. 

"Wir sind erschöpft. So können wir nicht weitermachen. Wir müssen schlafen, damit wir die Texte neu bewerten können", sagte ein Teilnehmer der Gespräche mit Reutersund zog es vor, anonym zu bleiben.

Unter dem Druck der bevorstehenden EU-weiten Wahlen, die den Fortschritt des Gesetzes stark behindern würden, arbeiteten die Verhandlungsführer über Nacht an einer Einigung über strittige Aspekte des Gesetzes. 

Das KI-Gesetz ist auf zahlreiche Komplikationen gestoßen, denn es wurde bereits im Jahr 2019 formuliert, als die generative KI, wie wir sie heute kennen, nur ein Schimmer in den Augen ihrer Schöpfer war. 

Der EU-Wettbewerbskommissar Thierry Breton äußerte sich optimistisch zu X: "In den letzten 22 Stunden wurden viele Fortschritte beim KI-Gesetz erzielt. Wir nehmen die Arbeit mit dem EU-Parlament und dem Rat morgen um 9:00 Uhr wieder auf. Stay tuned!"

In den vergangenen 22 Stunden wurden viele Fortschritte bei der #AIAct

Wiederaufnahme der Arbeit mit dem EU-Parlament und dem Rat morgen um 9:00 Uhr

Bleiben Sie dran!#Trilog pic.twitter.com/gEnggaRKTR

- Thierry Breton (@ThierryBreton) 7. Dezember 2023

Es wurden jedoch einige Fortschritte erzielt, darunter eine vorläufige Einigung über die Regulierung von Pioniersystemen der KI wie ChatGPT und Bard. 

Einem von Reuters eingesehenen Dokument zufolge plant die Europäische Kommission, eine Liste von KI-Modellen zu erstellen, die als "systemisches Risiko" gelten. Außerdem müssen Anbieter von KI-Systemen für allgemeine Zwecke umfassende Zusammenfassungen ihrer Trainingsdaten offenlegen.

Das vorgeschlagene Gesetz könnte insbesondere freie und quelloffene KI-Lizenzen von den Vorschriften ausnehmen, außer in Hochrisikoszenarien oder für verbotene Anwendungen. 

Wenn die Ausnahmeregelung für Open-Source-Modelle, die von Unternehmen wie Frankreichs Mistral und Deutschlands Aleph Alpha in die endgültige Gesetzgebung aufgenommen wird, würde dies als ein Gewinn für diese Unternehmen angesehen werden.

Sie warnten jedoch: "Die Rechtslage ist noch nicht geklärt, wir können also keine voreiligen Schlüsse ziehen."

Zentrale Bereiche der Vereinbarung

Bislang hat sich die EU in dieser Woche auf Folgendes geeinigt:

1. Erfassungsbereich und Definitionen: Das Gesetz über künstliche Intelligenz wird eine Definition von künstlicher Intelligenz annehmen, die mit der Definition der OECD übereinstimmt. kürzlich geänderte Definition. Freie und quelloffene Modelle werden voraussichtlich nicht in den Anwendungsbereich der Verordnung fallen, es sei denn, sie werden als risikoreich eingestuft, für verbotene Anwendungen verwendet oder es besteht die Gefahr der Manipulation. Es ist unklar, ob dies Modelle wie LLaMA abdeckt, aber es scheint wahrscheinlich. 
2. Modelle der Stiftung: Das Gesetz behält seinen abgestuften Ansatz bei, der Modelle, die mit einer Rechenleistung oberhalb bestimmter Schwellenwerte trainiert werden, automatisch als "systemisches Risiko" einstuft. Andere Regeln beziehen sich auf die Anzahl der geschäftlichen Nutzer und die Parameter des Modells, die an den technologischen Fortschritt angepasst werden können. Die Transparenzverpflichtungen werden die Veröffentlichung detaillierter Zusammenfassungen der Trainingsdaten erfordern.
3. Governance: Ein KI-Büro innerhalb der Kommission wird die Bestimmungen des Gründungsmodells durchsetzen. Die nationalen Behörden werden KI-Systeme überwachen, die vom Europäischen Rat für künstliche Intelligenz koordiniert werden, um eine einheitliche Rechtsanwendung zu gewährleisten. Ein beratendes Forum und ein wissenschaftliches Gremium werden Expertenbeiträge liefern.
4. Verbotene Praktiken: Das Gesetz enthält eine Liste von KI-Anwendungen, die aufgrund inakzeptabler Risiken verboten sind, wie z.B. manipulative Techniken, Ausnutzung von Schwachstellen, Social Scoring und wahlloses Scannen von Gesichtsbildern. Das Europäische Parlament schlägt vor, diese Liste zu erweitern, stößt dabei aber auf den Widerstand des Rates.
5. Regulierung bereits bestehender KI-Systeme: Das Gesetz wird sich auf bereits auf dem Markt befindliche KI-Systeme erstrecken, wenn diese wesentliche Änderungen erfahren.

Kontroverse Bereiche 

Die EU muss noch einen Konsens finden:

• Ausnahme für die nationale Sicherheit: Die EU-Länder, allen voran Frankreich, plädieren für eine weitreichende Ausnahmeregelung für KI-Systeme, die in militärischen oder verteidigungspolitischen Zusammenhängen eingesetzt werden, einschließlich solcher, die von externen Auftragnehmern verwendet werden.
• Strafverfolgung: Streitigkeiten über den Einsatz von KI in Strafverfolgunginsbesondere in Bezug auf vorausschauende Polizeiarbeit, Software zur Erkennung von Emotionen und biometrische Fernidentifizierung (RBI). Das Parlament und der Rat sind sich uneinig über das Ausmaß der Verbote und Ausnahmen in diesen Bereichen.
• Globale Auswirkungen: Es gibt eine anhaltende Debatte darüber, ob die Verbote des Gesetzes nur innerhalb der EU gelten sollen oder ob sie Unternehmen mit Sitz in der EU daran hindern sollen, eingeschränkte KI-Anwendungen im Ausland zu verkaufen.

Ende der Woche wird die Branche eine bessere Vorstellung von der Richtung des KI-Gesetzes haben. Es ist jedoch wahrscheinlich, dass es noch einige Wendungen geben wird.