Onsdag gjorde EU betydelige fremskritt i arbeidet med å implementere AI Act, verdens første omfattende lovverk for kunstig intelligens.
Europaparlamentet godkjente et lovutkast til loven, som tar utgangspunkt i en trinnvis tilnærming til regulering av kunstig intelligens ved å sortere bruksområder i ulike risikokategorier.
Nivåene omfatter en forbudt "uakseptabel" risikokategori for kunstig intelligens som setter menneskers sikkerhet og menneskerettigheter i fare, og en "høyrisikokategori" for kunstig intelligens som involverer kritisk infrastruktur, valg, sysselsetting og andre områder der det er fare for skade.
Deretter følger kategoriene "begrenset risiko" og "minimal risiko".
Onsdagens avstemning bekreftet flere endringer i lovforslaget og fikk 499 stemmer for, 28 mot og 93 fraværende.
SISTE: Med overveldende flertall vedtar EU-parlamentet verdens første omfattende lov om kunstig intelligens.
EU setter en global standard: AI må fungere for demokratiet, sikkerheten og planeten.
Forbyr følelsesgjenkjenning og anbefalingssystemer for sosiale medier som er klassifisert som "høyrisiko"!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14. juni 2023
Hva var endringene?
For det første utvidet EU listen over forbudte "uakseptable" risiko-AI, som nå omfatter
- AI for sosial poengberegning, der enkeltpersoner rangeres basert på deres sosiale atferd eller personlige egenskaper.
- Fjernstyrte biometriske identifikasjonssystemer i sanntid i det offentlige rom.
- Fjernstyrte biometriske identifikasjonssystemer, unntatt i tilfeller av rettshåndhevelse av alvorlige forbrytelser og kun med rettslig tillatelse.
- Biometriske kategoriseringssystemer som bruker sensitive kjennetegn som kjønn, rase, etnisitet, statsborgerskap, religion og politisk legning.
- Forutseende politisystemer som baserer seg på profilering, lokalisering eller tidligere kriminell atferd.
- Systemer for emosjonsgjenkjenning brukes i politiarbeid, grenseforvaltning, på arbeidsplasser og i utdanningsinstitusjoner.
- Urettet innsamling av ansiktsbilder fra Internett eller overvåkningsvideoer for å opprette databaser for ansiktsgjenkjenning.
Andreklasses "høyrisiko"-anvendelser av kunstig intelligens omfatter nå systemer som kan påvirke valg, og anbefalingsalgoritmer som brukes av store sosiale medieplattformer.
Når det gjelder generativ AI som ChatGPT, må utviklerne aktivt vurdere og redusere risikoen for helse, sikkerhet, grunnleggende rettigheter, miljø, demokrati og rettsstatsprinsipper. De må også registrere modellene sine i EU-databasen for å kunne operere på EU-markedet.
I tillegg må AI-selskaper øke sikkerheten mot å generere ulovlig innhold og levere detaljerte sammendrag av opphavsrettsbeskyttede opplæringsdata. Andre endringer i loven omfatter unntak for små og mellomstore bedrifter og forskningsaktiviteter med åpen kildekode.
Hvis de ikke overholder kravene, kan selskapene bli tvunget til å slette applikasjoner og bli ilagt bøter på opptil 7% av omsetningen. EU-tjenestemann Dragos Tudorache sa: "Det er mange skarpe tenner i den." Bøter som er utdelt for brudd på GDPR - inkludert en bot på 1,2 milliarder euro til Meta og en bot på 746 millioner euro til Amazon - viser at EU kan håndheve slike tiltak.
Europaparlamentets president, Roberta Metsola, beskrev det som "lovgivning som utvilsomt vil sette den globale standarden i årene som kommer", og la til at AI var på vei inn i "en ny tidsalder for gransking".
Etter avstemningen sa en EU-tjenestemann Brando Benifei sa"Alles øyne er rettet mot oss i dag. Mens de store teknologiselskapene slår alarm om sine egne kreasjoner, har Europa gått foran og foreslått et konkret svar på de risikoene AI begynner å utgjøre. Vi ønsker at AIs positive potensial for kreativitet og produktivitet skal utnyttes, men vi vil også kjempe for å beskytte vår posisjon og motvirke farene for våre demokratier og friheter under forhandlingene med Rådet."
Etter onsdagens avstemning går loven inn i sin siste fase, som omfatter forhandlinger med Europaparlamentet, Europakommisjonen og Rådet for Den europeiske union.
Loven forventes å tre i kraft i 2026.
