Op woensdag heeft de Europese Unie aanzienlijke vooruitgang geboekt met de implementatie van de AI Act, 's werelds eerste alomvattende wetgeving voor AI.
Het Europees Parlement heeft een wetsontwerp voor de wet goedgekeurd, waarin een trapsgewijze aanpak voor de regulering van AI wordt gehanteerd door toepassingen in verschillende risicocategorieën in te delen.
Er is een verboden risicocategorie "onaanvaardbaar" voor AI's die de veiligheid en mensenrechten van mensen in gevaar brengen en een categorie "hoog risico" voor AI's die betrekking hebben op kritieke infrastructuur, verkiezingen, werkgelegenheid en andere gebieden waar schade mogelijk is.
Daarna volgen de categorieën "beperkt risico" en "minimaal risico".
De stemming van woensdag bevestigde verschillende wijzigingen in het wetsvoorstel en kreeg 499 stemmen voor, 28 tegen en 93 afwezigen.
BREAKING: Met overweldigende meerderheid neemt EU-parlement 's werelds eerste allesomvattende AI-wet aan.
EU stelt wereldwijde norm: AI moet werken voor democratie, veiligheid & planeet.
Verbiedt emotieherkenning en aanbevelingssystemen voor sociale media die als 'hoog risico' zijn geclassificeerd!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14 juni 2023
Wat waren de amendementen?
Ten eerste heeft de EU de lijst met verboden "onaanvaardbare" risico-AI's uitgebreid:
- AI voor sociaal scoren, waarbij individuen worden gerangschikt op basis van hun sociale gedrag of persoonlijke kenmerken.
- Real-time biometrische identificatiesystemen op afstand in openbare ruimtes.
- Systemen voor biometrische identificatie op afstand, behalve in het geval van rechtshandhaving bij ernstige misdrijven en alleen met toestemming van de rechter.
- Biometrische categorisatiesystemen die gebruik maken van gevoelige kenmerken zoals geslacht, ras, etniciteit, burgerlijke staat, religie en politieke oriëntatie.
- Voorspellende politiesystemen die afhankelijk zijn van profilering, locatie of crimineel gedrag in het verleden.
- Emotieherkenningssystemen worden ingezet bij wetshandhaving, grensbeheer, werkplekken en onderwijsinstellingen.
- Ongericht verzamelen van gezichtsfoto's van het internet of CCTV-beelden voor het maken van gezichtsherkenningsdatabases.
Tot de tweederangs "risicovolle" AI-toepassingen behoren nu systemen die verkiezingen kunnen beïnvloeden en aanbevelingsalgoritmen die worden gebruikt door grote sociale mediaplatforms.
Wat betreft generatieve AI's zoals ChatGPT, moeten ontwikkelaars actief de risico's voor gezondheid, veiligheid, grondrechten, het milieu, democratie en de rechtsstaat beoordelen en beperken. Ze moeten hun modellen ook registreren in de EU-database om op de EU-markt te kunnen opereren.
Daarnaast moeten AI-bedrijven meer waarborgen bieden tegen het genereren van illegale inhoud en gedetailleerde samenvattingen verstrekken van auteursrechtelijk beschermde trainingsgegevens. Andere wijzigingen in de wet omvatten vrijstellingen voor KMO's en open-source onderzoeksactiviteiten.
Niet-naleving kan leiden tot gedwongen verwijdering van applicaties en boetes tot 7% van de omzet. EU-ambtenaar Dragos Tudorache zei: "Er zitten genoeg scherpe tanden in." De boetes die zijn uitgedeeld voor overtredingen van de GDPR - waaronder een boete van 1,2 miljard euro voor Meta en een boete van 746 miljoen euro voor Amazon - laten zien dat de EU dergelijke acties kan afdwingen.
De voorzitter van het Europees Parlement, Roberta Metsola, beschreef het als "wetgeving die ongetwijfeld de komende jaren de wereldwijde norm zal bepalen" en voegde eraan toe dat AI "een nieuw tijdperk van toezicht" inging.
Na de stemming, EU-ambtenaar Brando Benifei zeiAlle ogen zijn vandaag op ons gericht. Terwijl grote technologiebedrijven de noodklok luiden over hun eigen creaties, heeft Europa een concreet antwoord voorgesteld op de risico's die AI begint te vormen. We willen dat het positieve potentieel van AI voor creativiteit en productiviteit wordt benut, maar we zullen ook vechten om onze positie te beschermen en de gevaren voor onze democratieën en vrijheden tegen te gaan tijdens de onderhandelingen met de Raad".
Na de stemming van woensdag gaat de wet de laatste fase in, inclusief onderhandelingen met het Europees Parlement, de Europese Commissie en de Raad van de Europese Unie.
De wet zal naar verwachting in 2026 van kracht worden.
