Am Mittwoch machte die Europäische Union bedeutende Fortschritte bei der Umsetzung des KI-Gesetzes, der weltweit ersten umfassenden Gesetzgebung für KI.
Das Europäische Parlament hat einen Gesetzesentwurf für das Gesetz gebilligt, das einen abgestuften Ansatz zur Regulierung von KI verfolgt, indem es die Anwendungen in verschiedene Risikokategorien einteilt.
Es gibt eine Kategorie "unannehmbares Risiko" für KI, die die Sicherheit und die Menschenrechte von Menschen gefährdet, und eine Kategorie "hohes Risiko" für KI, die kritische Infrastrukturen, Wahlen, Arbeitsplätze und andere Bereiche mit potenziellem Schaden betrifft.
Es folgen die Kategorien "begrenztes Risiko" und "minimales Risiko".
Bei der Abstimmung am Mittwoch wurden mehrere Änderungen des Gesetzesvorschlags mit 499 Ja-Stimmen, 28 Nein-Stimmen und 93 Abwesenden bestätigt.
BREAKING: EU-Parlament verabschiedet mit überwältigender Mehrheit das erste umfassende KI-Gesetz der Welt.
EU setzt globalen Standard: KI muss für Demokratie, Sicherheit und den Planeten arbeiten.
Verbot von Emotionserkennung und Empfehlungssystemen für soziale Medien, die als "hochriskant" eingestuft werden!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14. Juni 2023
Was waren die Änderungen?
Erstens hat die EU die Liste der verbotenen "inakzeptablen" Risikokulturen erweitert, zu denen nun auch die folgenden gehören:
- KI für soziales Scoring, bei dem Personen auf der Grundlage ihres Sozialverhaltens oder ihrer persönlichen Eigenschaften eingestuft werden.
- Biometrische Echtzeit-Fernidentifikationssysteme in öffentlichen Räumen.
- Biometrische Fernidentifikationssysteme, außer in Fällen der Strafverfolgung schwerer Straftaten und nur mit richterlicher Genehmigung.
- Biometrische Kategorisierungssysteme, die sensible Merkmale wie Geschlecht, Rasse, ethnische Zugehörigkeit, Staatsangehörigkeit, Religion und politische Orientierung verwenden.
- Prädiktive Polizeisysteme, die auf Profilerstellung, Standortbestimmung oder früherem kriminellen Verhalten beruhen.
- Systeme zur Erkennung von Emotionen werden bei der Strafverfolgung, im Grenzschutz, am Arbeitsplatz und in Bildungseinrichtungen eingesetzt.
- Ungezielte Sammlung von Gesichtsbildern aus dem Internet oder CCTV-Aufnahmen zur Erstellung von Gesichtserkennungsdatenbanken.
Zu den "hochriskanten" KI-Anwendungen der zweiten Kategorie gehören nun auch Systeme, die Wahlen beeinflussen könnten, und Empfehlungsalgorithmen, die von großen Social-Media-Plattformen verwendet werden.
Was generative KI wie ChatGPT betrifft, so müssen die Entwickler die Risiken für Gesundheit, Sicherheit, Grundrechte, Umwelt, Demokratie und Rechtsstaatlichkeit aktiv bewerten und mindern. Außerdem müssen sie ihre Modelle in der EU-Datenbank registrieren lassen, um auf dem EU-Markt tätig werden zu können.
Darüber hinaus müssen KI-Unternehmen die Sicherheitsvorkehrungen gegen die Erstellung illegaler Inhalte erhöhen und detaillierte Zusammenfassungen von urheberrechtlich geschützten Trainingsdaten bereitstellen. Weitere Änderungen des Gesetzes umfassen Ausnahmen für KMU und Open-Source-Forschungstätigkeiten.
Die Nichteinhaltung der Vorschriften kann dazu führen, dass Unternehmen gezwungen werden, Anwendungen zu löschen und Geldstrafen von bis zu 7% ihrer Einnahmen zu zahlen. Der EU-Beamte Dragos Tudorache sagte: "Es gibt eine Menge scharfer Zähne". Die Geldstrafen, die wegen Verstößen gegen die Datenschutzgrundverordnung verhängt wurden - darunter eine Geldstrafe von 1,2 Mrd. EUR für Meta und eine Geldstrafe von 746 Mio. EUR für Amazon - zeigen, dass die EU solche Maßnahmen durchsetzen kann.
Die Präsidentin des Europäischen Parlaments, Roberta Metsola, bezeichnete es als "Gesetzgebung, die zweifellos für die kommenden Jahre den globalen Standard setzen wird" und fügte hinzu, dass die KI "in ein neues Zeitalter der Kontrolle" eintrete.
Nach der Abstimmung erklärte ein EU-Beamter Brando Benifei sagte"Alle Augen sind heute auf uns gerichtet. Während die großen Technologieunternehmen wegen ihrer eigenen Kreationen Alarm schlagen, ist Europa vorangegangen und hat eine konkrete Antwort auf die Risiken vorgeschlagen, die KI zu verursachen beginnt. Wir wollen, dass das positive Potenzial der KI für Kreativität und Produktivität genutzt wird, aber wir werden auch dafür kämpfen, unsere Position zu schützen und Gefahren für unsere Demokratien und Freiheiten während der Verhandlungen mit dem Rat abzuwehren".
Nach der Abstimmung am Mittwoch geht das Gesetz in seine letzte Phase, die Verhandlungen mit dem Europäischen Parlament, der Europäischen Kommission und dem Rat der Europäischen Union einschließt.
Das Gesetz soll im Jahr 2026 in Kraft treten.
