Das Europäische Parlament hat die erste umfassende KI-Gesetzgebung der Welt verabschiedet und damit sowohl Aufregung als auch Besorgnis ausgelöst.
523 Stimmen wurden für das Gesetz abgegeben, 46 dagegen und 49 enthielten sich. Es wird voraussichtlich im Mai dieses Jahres in Kraft treten.
Mit dem KI-Gesetz wird ein neuartiger, risikobasierter Ansatz für die KI-Governance eingeführt. Es kategorisiert KI-Systeme auf der Grundlage ihrer potenziellen Bedrohungen und reguliert sie entsprechend.
Die EU-Gesetzgebung ist bekanntermaßen komplex, und dies ist der Höhepunkt mehrjähriger Bemühungen und einiger brenzliger Momente, in denen einige Länder hinsichtlich der Auswirkungen des Gesetzes auf ihre Wirtschaft und ihren Wettbewerb zögerten.
Im Juni letzten Jahres wurde die Entwicklung des Unternehmens erneut gebremst, als rund 150 große europäische Unternehmen gewarnt vor die Verfolgung restriktiver Vorschriften.
Das Warten hat endlich ein Ende. Von alltäglichen Werkzeugen wie Spam-Filtern bis hin zu komplexeren Systemen, die im Gesundheitswesen und bei der Strafverfolgung eingesetzt werden, ist das KI-Gesetz sehr umfassend.
Zu den bemerkenswertesten Bestimmungen des Gesetzes gehört das vollständige Verbot von KI-Systemen, die kognitive Verhaltensmanipulationen, soziales Scoring und nicht autorisierte biometrische Identifizierung ermöglichen.
Dann gibt es noch die "Hochrisikokategorie", zu der KI in kritischen Infrastrukturen, Bildungsinstrumenten, Beschäftigungsmanagement und mehr gehört. Diese Systeme werden vor und nach der Markteinführung strengen Bewertungen unterzogen. Die Öffentlichkeit hat die Möglichkeit, diese KI-Systeme bei den zuständigen Behörden anzumelden.
Generative KI, wie ChatGPT von OpenAI, wird in dem Gesetz besonders hervorgehoben. Auch wenn diese Plattformen nicht als hochriskant eingestuft werden, wird von ihnen erwartet, dass sie ihre Arbeitsweise und die Daten, auf denen sie trainieren, transparent machen und sich dabei an die EU-Urheberrechtsvorschriften halten.
Im Folgenden finden Sie eine kurze Zusammenfassung der wichtigsten Bestimmungen des Gesetzes:
- Verbotene KI-Systeme: Kognitive Verhaltensmanipulation, soziale Bewertung, unbefugte biometrische Identifizierung und Gesichtserkennung in Echtzeit oder aus der Ferne.
- Hochriskante KI-Systeme: Im Zusammenhang mit kritischen Infrastrukturen, allgemeiner/beruflicher Bildung, Produktsicherheitskomponenten, Beschäftigung und Arbeitnehmermanagement, wesentlichen privaten und öffentlichen Dienstleistungen, Strafverfolgung, Migration/Asyl/Grenzkontrolle und Justizverwaltung/Demokratie.
- Bewertung und Beschwerden: KI-Systeme mit hohem Risiko werden vor der Markteinführung und während ihres gesamten Lebenszyklus einer Bewertung unterzogen. Einzelpersonen haben das Recht, bei den nationalen Behörden Beschwerde einzulegen.
- Generative KI: Systeme wie ChatGPT müssen die Transparenzanforderungen und das EU-Urheberrecht erfüllen, einschließlich der Offenlegung von KI-generierten Inhalten, der Verhinderung der Erzeugung illegaler Inhalte und der Zusammenfassung urheberrechtlich geschützter Daten, die für das Training verwendet wurden.
- Zeitplan für die Umsetzung: Das KI-Gesetz soll Mitte 2024 in Kraft treten, wobei die Bestimmungen über zwei Jahre hinweg schrittweise eingeführt werden. Verbotene Systeme müssen innerhalb von sechs Monaten abgeschafft werden, Regeln für allgemeine KI gelten nach einem Jahr, und die vollständige Durchsetzung beginnt zwei Jahre nach Inkrafttreten des Gesetzes.
- Geldbußen: Die Nichteinhaltung kann zu Geldstrafen von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes führen.
Neben der Regulierung der KI-Ausbildung und des KI-Einsatzes waren die Urheberrechtsvorschriften einer der am meisten erwarteten Aspekte des Gesetzes. Dazu gehören einige der folgenden Punkte:
- KI-Modelle, die für ein breites Spektrum von Anwendungen konzipiert sind, müssen Zusammenfassungen der von ihnen verwendeten Trainingsdaten offenlegen.
- Die Angaben sollten so detailliert sein, dass die Urheber erkennen können, ob ihre Inhalte in der Ausbildung verwendet wurden.
- Diese Anforderung gilt auch für Open-Source-Modelle.
- Alle Änderungen an diesen Modellen, wie z. B. die Feinabstimmung, müssen auch Informationen über die verwendeten Trainingsdaten enthalten.
- Diese Vorschriften gelten für alle Modelle, die auf dem EU-Markt angeboten werden, unabhängig davon, wo sie entwickelt wurden.
- Kleine und mittlere Unternehmen (KMU) werden mit einer flexibleren Durchsetzung konfrontiert, müssen aber weiterhin die Urheberrechtsvorschriften einhalten.
- Die bestehende Bestimmung, nach der Urheber ihre Werke von der Verwendung in der KI-Ausbildung ausschließen können, bleibt bestehen.
Dies scheint ein Schritt nach vorn zu sein, um zu verhindern, dass die Daten von Personen ohne deren Zustimmung für das Training von KI-Modellen verwendet werden.
Die Bestimmungen des KI-Gesetzes, das Mitte 2024 formell in Kraft treten soll, werden schrittweise in Kraft treten.
Die EU erwartet, dass verbotene KI-Praktiken oder -Projekte innerhalb von sechs Monaten eingestellt werden. Ein Jahr später müssen KI-Systeme für allgemeine Zwecke den neuen Regeln entsprechen, und innerhalb von zwei Jahren tritt das Gesetz in seiner Gesamtheit in Kraft.
Das Gesetz hat zwar sowohl Befürworter als auch KritikerSie ist ein Meilenstein für die Technologiebranche und fordert andere Regionen auf, ihre KI-Governance-Strategien zu beschleunigen.
Der Europaabgeordnete Dragos Tudorache erklärte, dass damit eine neue Ära für die KI-Technologie eingeläutet wird: "Das KI-Gesetz ist nicht das Ende der Reise, sondern der Ausgangspunkt für eine neue, auf Technologie basierende Governance", und unterstreicht den Pioniergeist dieser Gesetzgebung.
Unternehmen, Tech-Giganten und Regierungen auf der ganzen Welt beobachten genau, dass die Auswirkungen dieser Gesetzgebung weit über die europäischen Grenzen hinaus zu spüren sein werden. Wir werden die wahren Auswirkungen bald verstehen.
