Alles, was Sie über das bahnbrechende Abkommen der EU über künstliche Intelligenz wissen müssen

Die EU hat eine Einigung über das KI-Gesetz erzielt, so dass es wahrscheinlich wie geplant 2024 bis 2025 in Kraft treten wird. 

Diese bahnbrechende Entscheidung war das Ergebnis intensiver 37-stündiger Verhandlungen zwischen dem Europäischen Parlament und den EU-Mitgliedstaaten.

Thierry Breton, der hauptverantwortliche EU-Kommissar für dieses neue Gesetzespaket, bezeichnete die Einigung als "historisch". Die Gespräche laufen seit Dienstag, und an einigen Tagen haben die Unterhändler die Nacht durchgearbeitet. 

Historisch!

Die EU wird der erste Kontinent sein, der klare Regeln für den Einsatz von KI aufstellt 🇪🇺

Die #AIAct ist viel mehr als ein Regelwerk - es ist eine Startrampe für EU-Startups und Forscher, die das globale KI-Rennen anführen wollen.

Das Beste steht uns noch bevor! 👍 pic.twitter.com/W9rths31MU

- Thierry Breton (@ThierryBreton) 8. Dezember 2023

Carme Artigas, die spanische Staatssekretärin für künstliche Intelligenz, war entscheidend daran beteiligt, diese Verhandlungen zu einem erfolgreichen Abschluss zu bringen.

Artigas wies auf die große Unterstützung hin, die der Text von den großen europäischen Ländern erhalten hat, und erklärte: "Frankreich und Deutschland haben den Text unterstützt. Dies ist bemerkenswert, da Frankreich und Deutschland, die ihre eigene wachsende KI-Industrie fördern wollen, einige der strengeren Elemente des Gesetzes in Frage stellten. 

Die EU wird nun bei der Regulierung von KI eine Vorreiterrolle übernehmen. Der konkrete Inhalt und die Auswirkungen der neuen Gesetze sind zwar noch nicht absehbar, aber sie werden voraussichtlich 2024/2025 in Kraft treten. 

Wichtige Vereinbarungen und Aspekte des EU-AI-Gesetzes

Die vorläufige Einigung über das AI-Gesetz ist ein historischer Schritt bei der Regulierung von KI. Er tritt in die Fußstapfen anderer EU-Technologieregulierungen wie der Datenschutz-Grundverordnung (GDPR), durch die Technologieunternehmen im Laufe der Jahre mit Geldbußen in Milliardenhöhe belegt wurden. 

Carme Artigas, spanische Staatssekretärin für Digitalisierung und künstliche Intelligenz, sagte zu dem Gesetz: "Dies ist eine historische Errungenschaft und ein großer Meilenstein in Richtung Zukunft! Mit der heutigen Vereinbarung wird eine globale Herausforderung in einem sich schnell entwickelnden technologischen Umfeld in einem Schlüsselbereich für die Zukunft unserer Gesellschaften und Volkswirtschaften wirksam angegangen. Dabei ist es uns gelungen, ein äußerst heikles Gleichgewicht zu halten: die Innovation und die Verbreitung der künstlichen Intelligenz in ganz Europa zu fördern und gleichzeitig die Grundrechte unserer Bürgerinnen und Bürger uneingeschränkt zu achten."

Hier sind die zentrale neue Aspekte der vereinbarten Rechtsvorschriften:

• Hochwirksame und hochriskante AI-Systeme: Die Vereinbarung führt Regeln für allgemeine KI-Modelle ein, die ein "systemisches" Risiko darstellen könnten. Was das genau bedeutet, bleibt unklar, aber es ist im Großen und Ganzen darauf ausgelegt, neue Generationen von Modellen auf GPT-4-Niveau und darüber hinaus zu berücksichtigen. 
• Governance und Durchsetzung: Es wurde ein überarbeitetes Governance-System eingeführt, das auch einige Durchsetzungsbefugnisse auf EU-Ebene umfasst. Dies gewährleistet einen zentralisierten Ansatz zur Regulierung von KI in den Mitgliedstaaten.
• Verbote und Ausnahmen für die Strafverfolgung: Das Abkommen erweitert die Liste der verbotenen KI-Praktiken, erlaubt aber unter strengen Bedingungen die Verwendung der biometrischen Fernidentifizierung durch Strafverfolgungsbehörden in öffentlichen Räumen. Damit soll ein Gleichgewicht zwischen öffentlicher Sicherheit, Privatsphäre und bürgerlichen Freiheiten hergestellt werden.
• Schutz der Rechte: Ein zentraler Aspekt des Abkommens ist die Verpflichtung der Betreiber von KI-Systemen mit hohem Risiko, die Auswirkungen auf die Rechte der Menschen zu bewerten, bevor sie ein KI-System einsetzen. "Betreiber" ist hier das Schlüsselwort, da das Gesetz Verantwortlichkeiten in der gesamten KI-Wertschöpfungskette festlegt.

Weitere vereinbarte Bereiche sind:

• Definitionen und Anwendungsbereich: Die Definition von KI-Systemen wurde an die Die Definition der OECDund die Verordnung schließt KI-Systeme aus, die ausschließlich für militärische, Verteidigungs-, Forschungs- und Innovationszwecke oder von Einzelpersonen für nichtprofessionelle Zwecke verwendet werden.
• Klassifizierung von KI-Systemen: KI-Systeme werden nach ihrem Risiko eingestuft, wobei für Systeme mit hohem Risiko strenge Anforderungen und für Systeme mit begrenztem Risiko weniger strenge Transparenzpflichten gelten. Dies war von Anfang an die Absicht.
• Modelle der Stiftung: Die Vereinbarung bezieht sich auf Basismodelle, große KI-Systeme, die verschiedene Aufgaben wie ChatGPT/Bard/Claude 2 übernehmen können. Für diese Modelle werden besondere Transparenzverpflichtungen festgelegt, mit strengeren Vorschriften für hochwirksame Basismodelle.
• Anforderungen an AI-Systeme mit hohem Risiko: KI-Systeme mit hohem Risiko werden auf dem EU-Markt zugelassen, müssen aber bestimmte Anforderungen erfüllen, darunter Datenqualität und technische Dokumentation, insbesondere für KMU.
• Verantwortlichkeiten in AI-Wertschöpfungsketten: Die Vereinbarung klärt die Rollen und Verantwortlichkeiten der verschiedenen Akteure in den Wertschöpfungsketten von KI-Systemen, einschließlich der Anbieter und Nutzer, und wie diese mit den bestehenden EU-Rechtsvorschriften zusammenhängen.
• Verbotene AI-Praktiken: Das Gesetz verbietet bestimmte inakzeptable KI-Praktiken wie kognitive Verhaltensmanipulation, ungezieltes Scannen von Gesichtsbildern und Emotionserkennung an Arbeitsplätzen und in Bildungseinrichtungen.
• Notfallverfahren für die Strafverfolgung: Ein Notfallverfahren ermöglicht es den Strafverfolgungsbehörden, in dringenden Situationen KI-Werkzeuge mit hohem Risiko einzusetzen, die die Konformitätsbewertung nicht bestanden haben.
• Biometrische Identifizierung in Echtzeit: Der Einsatz biometrischer Echtzeit-Fernerkennungssysteme in öffentlichen Räumen durch die Strafverfolgungsbehörden ist unter strengen Auflagen für bestimmte Zwecke wie die Verhinderung von Terroranschlägen oder die Suche nach Verdächtigen schwerer Verbrechen zulässig.

Governance, Sanktionen und Durchsetzung:

• Governance: Ein KI-Büro innerhalb der Kommission wird fortschrittliche KI-Modelle beaufsichtigen, unterstützt von einem wissenschaftlichen Gremium unabhängiger Experten und dem KI-Rat, der sich aus Vertretern der Mitgliedstaaten zusammensetzt.
• Sanktionen: Die Vereinbarung sieht für verschiedene Verstöße Geldbußen vor, die auf einem Prozentsatz des weltweiten Jahresumsatzes des Unternehmens basieren, wobei die Obergrenzen für KMU und Start-ups verhältnismäßiger sind.
• Geldbußen: Die Strafen für die Nichteinhaltung wurden je nach Schwere des Verstoßes festgelegt. Die Geldbußen werden entweder als Prozentsatz des Gesamtjahresumsatzes des Unternehmens aus dem vorangegangenen Geschäftsjahr oder als Festbetrag berechnet. Der höhere der beiden Beträge wird zugrunde gelegt. Die Geldbußen sind wie folgt strukturiert: 35 Mio. € oder 7% des Umsatzes für Verstöße im Zusammenhang mit verbotenen KI-Anwendungen, 15 Mio. € oder 3% für Verstöße gegen die Verpflichtungen aus dem Gesetz und 7,5 Mio. € oder 1,5% für die Bereitstellung falscher Informationen.
• Unterstützung: Die Vereinbarung umfasst KI-Sandboxen, in denen innovative KI-Systeme unter realen Bedingungen getestet werden können, und bietet kleineren Unternehmen Unterstützung.

Diese vorläufige Einigung bedarf noch der Zustimmung des Europäischen Parlaments und der 27 EU-Mitgliedstaaten.

Wie wird sich die Gesetzgebung auf "Grenzmodelle" auswirken?

Nach den neuen Vorschriften müssen alle Entwickler von KI-Systemen für allgemeine Zwecke, insbesondere von solchen mit einem breiten Spektrum potenzieller Anwendungen wie ChatGPT und Bard, aktuelle Informationen darüber bereithalten, wie ihre Modelle trainiert werden, eine detaillierte Zusammenfassung der für das Training verwendeten Daten bereitstellen und über Richtlinien verfügen, die das Urheberrecht respektieren und eine akzeptable Nutzung gewährleisten.

Das Gesetz stuft auch bestimmte Modelle als "systemisches Risiko" ein. Diese Bewertung basiert in erster Linie auf der Rechenleistung dieser Modelle. Die EU hat den Schwellenwert für diese Kategorie auf Modelle festgelegt, die mehr als 10 Billionen Billionen Operationen pro Sekunde ausführen.

Derzeit ist das GPT-4 von OpenAI das einzige Modell, das diesen Schwellenwert automatisch erfüllt. Die EU könnte jedoch auch andere Modelle nach dieser Definition kennzeichnen. 

Für Modelle, die als systemisches Risiko eingestuft werden, gelten zusätzliche, strengere Vorschriften. Diese umfassen:

• Obligatorische Meldung des Energieverbrauchs.
• Durchführung von Red-Teaming- oder kontradiktorischen Tests.
• Bewertung und Abschwächung potenzieller systemischer Risiken.
• Gewährleistung robuster Kontrollen der Cybersicherheit.
• Berichterstattung über die für die Feinabstimmung des Modells verwendeten Informationen und Einzelheiten über die Systemarchitektur.

Wie ist das Abkommen aufgenommen worden?

Das KI-Gesetz hat eine Vielzahl von Reaktionen ausgelöst, die sich mit der Innovation, der Regulierung und den Auswirkungen auf die Gesellschaft befassen. 

Fritz-Ulli Pieper, Spezialist für IT-Recht bei Taylor Wessing, wies darauf hin, dass das Ende zwar in Sicht sei, das Gesetz aber noch geändert werden könne.

Er bemerkte: "Viele Punkte müssen im technischen Trilog noch weiter bearbeitet werden. Niemand weiß, wie der endgültige Wortlaut aussehen wird und ob oder wie man die derzeitige Einigung in einem endgültigen Gesetzestext wirklich durchsetzen kann." 

Piepers Einblicke zeigen die Komplexität und Ungewissheit im Zusammenhang mit dem KI-Gesetz und lassen vermuten, dass noch viel zu tun bleibt, um sicherzustellen, dass die endgültige Gesetzgebung effektiv und praktisch ist.

Ein zentrales Thema dieser Treffen war die Abwägung von KI-Risiken und -Chancen, insbesondere da Modelle "doppelter Natur" sein können, d. h. sie können sowohl Nutzen als auch Schaden anrichten. Alexandra van Huffelen, niederländische Ministerin für Digitalisierung, bemerkte: "Der Umgang mit KI bedeutet, die Chancen und Risiken gerecht zu verteilen." 

Das Gesetz scheint auch die EU-Bürger nicht vor groß angelegter Überwachung zu schützen, was die Aufmerksamkeit der Interessenvertretungsgruppen wie Amnesty International.

Mher Hakobyan, Advocacy Advisor für künstliche Intelligenz, sagte zu diesem Streitpunkt: "Ein vollständiges Verbot der Gesichtserkennung nicht sicherzustellen, ist daher eine enorm verpasste Gelegenheit, kolossalen Schaden für die Menschenrechte, den zivilen Raum und die Rechtsstaatlichkeit zu stoppen und zu verhindern, die bereits überall in der EU bedroht sind."

Nach dieser vorläufigen Einigung soll das KI-Gesetz zwei Jahre nach seiner offiziellen Verabschiedung in Kraft treten, so dass Regierungen und Unternehmen in der gesamten EU die Möglichkeit haben, sich auf die Einhaltung der Bestimmungen vorzubereiten. 

In der Zwischenzeit werden die Beamten über die technischen Details der Verordnung verhandeln. Sobald die technischen Verfeinerungen abgeschlossen sind, wird der Kompromisstext den Vertretern der Mitgliedsstaaten zur Billigung vorgelegt.

Der letzte Schritt umfasst eine juristisch-sprachliche Überarbeitung, um Klarheit und rechtliche Genauigkeit zu gewährleisten, gefolgt von der formellen Verabschiedung. Das KI-Gesetz wird mit Sicherheit die Branche sowohl in der EU als auch weltweit verändern, aber das Ausmaß ist schwer vorherzusagen.