Het Europees Parlement heeft 's werelds eerste allesomvattende AI-wetgeving goedgekeurd, wat zowel opwinding als bezorgdheid heeft veroorzaakt.
Er werden 523 stemmen uitgebracht voor de wet, 46 tegen en 49 onthoudingen. De wet zal waarschijnlijk in mei in werking treden.
De AI-wet introduceert een nieuwe, risicogebaseerde benadering van AI-governance. Het categoriseert AI-systemen op basis van hun potentiële bedreigingen en reguleert ze dienovereenkomstig.
Het maken van EU-wetgeving is notoir complex en dit is het hoogtepunt van een aantal jaren van inspanning en een aantal hachelijke momenten waarbij sommige landen aarzelden over de impact van de wet op hun economie en concurrentie.
Het traject kreeg in juni vorig jaar een nieuwe klap toen zo'n 150 grote Europese bedrijven gewaarschuwd tegen restrictieve regelgeving nastreven.
Het wachten is eindelijk voorbij. Van alledaagse tools zoals spamfilters tot complexere systemen die worden gebruikt in de gezondheidszorg en wetshandhaving, de AI-wet is zeer uitgebreid.
De wet verbiedt onder andere AI-systemen die in staat zijn tot cognitieve gedragsmanipulatie, social scoring en ongeoorloofde biometrische identificatie.
Dan is er nog de categorie "met een hoog risico", waaronder AI in kritieke infrastructuur, onderwijshulpmiddelen, werkgelegenheidsbeheer en meer. Deze systemen worden voor en na de marktintroductie aan strenge evaluaties onderworpen. Het publiek heeft de mogelijkheid om deze AI-systemen aan te geven bij de aangewezen autoriteiten.
Generatieve AI, zoals OpenAI's ChatGPT, krijgt een speciale vermelding in de wet. Hoewel deze platformen niet als risicovol worden bestempeld, wordt wel verwacht dat ze transparant zijn over hun werkwijze en de gegevens waarop ze trainen, in overeenstemming met de EU-wetgeving inzake auteursrecht.
Hier volgt een korte samenvatting van de belangrijkste regels van de wet:
- Verboden AI-systemen: Omvatten cognitieve gedragsmanipulatie, sociaal scoren, onbevoegde biometrische identificatie en real-time/op afstand gezichtsherkenning.
- AI-systemen met hoog risico: Met betrekking tot kritieke infrastructuren, onderwijs/beroepsopleiding, productveiligheidscomponenten, werkgelegenheid en werknemersbeheer, essentiële particuliere en openbare diensten, wetshandhaving, migratie/asiel/grenscontrole en het beheer van justitie/democratische processen.
- Beoordeling en klachten: AI-systemen met een hoog risico worden beoordeeld voordat ze op de markt worden gebracht en gedurende hun hele levenscyclus. Individuen hebben het recht om klachten in te dienen bij nationale autoriteiten.
- Generatieve AI: Systemen zoals ChatGPT moeten voldoen aan transparantie-eisen en de EU-wetgeving op auteursrechten, waaronder het openbaar maken van AI-gegenereerde inhoud, het voorkomen van het genereren van illegale inhoud en het samenvatten van auteursrechtelijk beschermde gegevens die zijn gebruikt voor training.
- Tijdschema voor implementatie: De AI-wet moet medio 2024 wet worden, waarbij de bepalingen in twee jaar gefaseerd worden ingevoerd. Verboden systemen moeten binnen zes maanden uitgefaseerd zijn, regels voor AI voor algemene doeleinden gelden na een jaar en de volledige handhaving begint twee jaar nadat de wet van kracht is geworden.
- Boetes: Niet-naleving kan boetes tot 35 miljoen euro of 7% van de wereldwijde jaaromzet tot gevolg hebben.
Naast het reguleren van AI-training en -implementatie was een van de aspecten van de wet waar het meest naar werd uitgekeken de auteursrechtregels. Deze omvatten het volgende:
- AI-modellen die zijn ontworpen voor een breed scala aan toepassingen, moeten samenvattingen openbaar maken van de trainingsgegevens die ze gebruiken.
- De openbaarmakingen moeten voldoende gedetailleerd zijn om de makers in staat te stellen na te gaan of hun inhoud is gebruikt voor training.
- Deze vereiste geldt ook voor open-sourced modellen.
- Alle aanpassingen aan deze modellen, zoals fine-tuning, moeten ook informatie bevatten over de gebruikte trainingsgegevens.
- Deze regels gelden voor elk model dat op de EU-markt wordt aangeboden, ongeacht waar het is ontwikkeld.
- Kleine en middelgrote ondernemingen (KMO's) krijgen te maken met een flexibelere handhaving, maar moeten nog steeds voldoen aan de auteursrechtwetgeving.
- De bestaande mogelijkheid voor makers om hun werk uit te sluiten van gebruik in AI-training blijft bestaan.
Dit lijkt een stap voorwaarts in het beschermen van de gegevens van mensen tegen gebruik voor AI-modeltraining zonder hun toestemming.
De AI-wet wordt medio 2024 formeel van kracht en de bepalingen ervan worden geleidelijk van kracht.
De EU verwacht dat verboden AI-praktijken of -projecten binnen zes maanden worden beëindigd. Een jaar later moeten AI-systemen voor algemene doeleinden aan de nieuwe regels voldoen en binnen twee jaar wordt de wet in zijn geheel van kracht.
Hoewel de wet zowel voorstanders als criticiHet is een mijlpaal voor de techindustrie en daagt andere regio's uit om hun AI-governancestrategieën te versnellen.
Europarlementariër Dragos Tudorache legde uit hoe deze wet een nieuw tijdperk voor AI-technologie inluidt: "De AI-wet is niet het einde van de reis, maar het startpunt voor nieuw bestuur rond technologie", waarmee de pioniersgeest van deze wetgeving wordt benadrukt.
Bedrijven, techgiganten en overheden over de hele wereld houden dit nauwlettend in de gaten en het is duidelijk dat de gevolgen van deze wetgeving tot ver buiten de Europese grenzen merkbaar zullen zijn. We zullen de ware impact snel begrijpen.
