Onsdag gjorde EU betydelige fremskridt i retning af at implementere AI Act, verdens første omfattende lovgivning om kunstig intelligens.
Europa-Parlamentet har godkendt et udkast til loven, som har en differentieret tilgang til regulering af AI ved at inddele anvendelser i forskellige risikokategorier.
Niveauerne omfatter en forbudt "uacceptabel" risikokategori for AI, der bringer folks sikkerhed og menneskerettigheder i fare, og en "højrisikokategori" for AI, der involverer kritisk infrastruktur, valg, beskæftigelse og andre områder med potentiel skade.
Dernæst kommer kategorierne "begrænset risiko" og "minimal risiko".
Onsdagens afstemning bekræftede flere ændringer i lovforslaget og fik 499 stemmer for, 28 imod og 93 fraværende.
BREAKING: Med overvældende flertal vedtager EU-Parlamentet verdens første omfattende AI-lov.
EU sætter global standard: AI skal arbejde for demokrati, sikkerhed og planeten.
Forbyder følelsesgenkendelse og anbefalingssystemer til sociale medier, der er klassificeret som 'høj risiko'!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14. juni 2023
Hvad var ændringerne?
For det første udvidede EU listen over forbudte "uacceptable" risiko-AI'er, som nu omfatter:
- AI til social scoring, hvor personer rangeres ud fra deres sociale adfærd eller personlige egenskaber.
- Fjernbetjente biometriske identifikationssystemer i realtid i det offentlige rum.
- Biometriske fjernidentifikationssystemer, undtagen i tilfælde af retshåndhævelse, der forfølger alvorlige forbrydelser, og kun med juridisk tilladelse.
- Biometriske kategoriseringssystemer, der bruger følsomme karakteristika som køn, race, etnicitet, statsborgerskabsstatus, religion og politisk orientering.
- Forudsigende politisystemer, der er afhængige af profilering, placering eller tidligere kriminel adfærd.
- Systemer til genkendelse af følelser anvendes i forbindelse med retshåndhævelse, grænseforvaltning, arbejdspladser og uddannelsesinstitutioner.
- Ikke-målrettet indsamling af ansigtsbilleder fra internettet eller CCTV-optagelser til oprettelse af ansigtsgenkendelsesdatabaser.
Andenrangs "højrisiko" AI-applikationer omfatter nu systemer, der kan påvirke valg, og anbefalingsalgoritmer, der bruges af store sociale medieplatforme.
Hvad angår generativ AI som ChatGPT, skal udviklerne aktivt vurdere og afbøde risici for sundhed, sikkerhed, grundlæggende rettigheder, miljø, demokrati og retsstatsprincippet. De skal også registrere deres modeller i EU-databasen for at kunne operere på EU-markedet.
Derudover skal AI-virksomheder øge sikkerheden mod at generere ulovligt indhold og levere detaljerede oversigter over ophavsretligt beskyttede træningsdata. Andre ændringer i loven omfattede undtagelser for SMV'er og open source-forskningsaktiviteter.
Hvis de ikke overholder reglerne, kan virksomheder blive tvunget til at slette applikationer og få bøder på op til 7% af deres omsætning. EU-embedsmanden Dragos Tudorache sagde: "Der er masser af skarpe tænder derinde." Bøder uddelt for overtrædelser af GDPR - herunder en bøde på 1,2 mia. euro til Meta og en bøde på 746 mio. euro til Amazon - viser, at EU kan håndhæve sådanne handlinger.
Europa-Parlamentets formand, Roberta Metsola, beskrev det som "lovgivning, der uden tvivl vil sætte den globale standard i de kommende år" og tilføjede, at AI var på vej ind i "en ny tidsalder med kontrol".
Efter afstemningen sagde en EU-embedsmand Brando Benifei sagde"Alles øjne er rettet mod os i dag. Mens Big Tech-virksomhederne slår alarm over deres egne kreationer, er Europa gået foran og har foreslået et konkret svar på de risici, som kunstig intelligens begynder at udgøre. Vi ønsker, at AI's positive potentiale for kreativitet og produktivitet skal udnyttes, men vi vil også kæmpe for at beskytte vores position og imødegå farer for vores demokratier og frihedsrettigheder under forhandlingerne med Rådet".
Efter onsdagens afstemning går loven ind i sin sidste fase, herunder forhandlinger med Europa-Parlamentet, Europa-Kommissionen og Rådet for Den Europæiske Union.
Loven forventes at træde i kraft i 2026.
