På onsdagen gjorde Europeiska unionen betydande framsteg mot att implementera AI Act, världens första omfattande lagstiftning för AI.
Europaparlamentet godkände ett lagförslag för lagen, som tar ett stegvist tillvägagångssätt för att reglera AI genom att sortera användningar i olika riskkategorier.
Nivåerna inkluderar en förbjuden "oacceptabel" riskkategori för AI som äventyrar människors säkerhet och mänskliga rättigheter och en "hög risk" kategori för AI som involverar kritisk infrastruktur, val, sysselsättning och andra områden med potentiell skada.
Därefter följer kategorierna "begränsad risk" och "minimal risk".
Onsdagens omröstning bekräftade flera ändringar i lagförslaget och fick 499 röster för, 28 röster emot och 93 frånvarande.
BREAKING: Med överväldigande majoritet antar EU-parlamentet världens första heltäckande AI-lag.
EU sätter global standard: AI måste verka för demokrati, säkerhet och planeten.
Förbjuder system för känsloigenkänning och rekommendationssystem för sociala medier som klassas som "hög risk"!https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14 juni 2023
Vilka var ändringsförslagen?
För det första utökade EU listan över förbjudna AI med "oacceptabel" risk, som nu omfattar
- AI för social scoring, där individer rangordnas baserat på deras sociala beteende eller personliga egenskaper.
- System för biometrisk identifiering på distans i realtid i offentliga miljöer.
- System för biometrisk identifiering på distans, utom i fall där brottsbekämpande myndigheter beivrar allvarliga brott och endast med rättsligt tillstånd.
- Biometriska kategoriseringssystem som använder känsliga egenskaper som kön, ras, etnicitet, medborgarskapsstatus, religion och politisk inriktning.
- Prediktiva polissystem som bygger på profilering, plats eller tidigare brottsligt beteende.
- System för igenkänning av känslor används inom brottsbekämpning, gränsförvaltning, på arbetsplatser och utbildningsinstitutioner.
- Oriktad insamling av ansiktsbilder från internet eller övervakningsfilmer för att skapa databaser för ansiktsigenkänning.
I den andra kategorin av AI-applikationer med "hög risk" ingår nu system som kan påverka val och rekommendationsalgoritmer som används av stora sociala medieplattformar.
När det gäller generativ AI som ChatGPT måste utvecklarna aktivt bedöma och minska riskerna för hälsa, säkerhet, grundläggande rättigheter, miljö, demokrati och rättsstatsprincipen. De måste också registrera sina modeller i EU:s databas för att få verka på EU-marknaden.
Dessutom måste AI-företag öka skyddet mot att generera olagligt innehåll och tillhandahålla detaljerade sammanfattningar av upphovsrättsskyddade utbildningsdata. Andra ändringar i lagen omfattade undantag för små och medelstora företag och forskningsverksamhet med öppen källkod.
Om företagen inte följer reglerna kan de tvingas radera applikationer och få böter på upp till 7% av sina intäkter. EU-tjänstemannen Dragos Tudorache sa: "Det finns gott om vassa tänder där inne." Böter som utdömts för brott mot GDPR - bland annat 1,2 miljarder euro i böter för Meta och 746 miljoner euro i böter för Amazon - visar att EU kan genomdriva sådana åtgärder.
Europaparlamentets talman Roberta Metsola beskrev det som "en lagstiftning som utan tvekan kommer att sätta den globala standarden under många år framöver", och tillade att AI är på väg in i "en ny tid av granskning".
Efter omröstningen sade EU-tjänstemannen Brando Benifei sade, "Alla ögon är riktade mot oss idag. Medan de stora teknikföretagen slår larm om sina egna skapelser har Europa gått före och föreslagit ett konkret svar på de risker som AI börjar utgöra. Vi vill att AI:s positiva potential för kreativitet och produktivitet ska utnyttjas, men vi kommer också att kämpa för att skydda vår position och motverka faror för våra demokratier och friheter under förhandlingarna med rådet."
Efter onsdagens omröstning går akten in i sitt slutskede, som omfattar förhandlingar med Europaparlamentet, Europeiska kommissionen och Europeiska unionens råd.
Lagen förväntas träda i kraft år 2026.
