Europaparlamentet har godkjent verdens første omfattende lovgivning om kunstig intelligens, noe som vekker både begeistring og bekymring.
523 stemte for loven, 46 stemte mot og 49 stemte blankt. Loven vil mest sannsynlig tre i kraft i mai i år.
AI-loven innfører en ny, risikobasert tilnærming til AI-styring. Den kategoriserer AI-systemer basert på potensielle trusler og regulerer dem deretter.
EU-lovgivning er notorisk komplisert, og dette er kulminasjonen av flere års arbeid og noen hårreisende øyeblikk der noen land nølte med lovens innvirkning på deres økonomi og konkurranse.
I juni i fjor fikk den en ny knekk da rundt 150 store europeiske selskaper advarte mot forfølge restriktive reguleringer.
Ventetiden er endelig over. AI-loven er svært omfattende, og omfatter alt fra hverdagslige verktøy som spamfiltre til mer komplekse systemer som brukes i helsevesenet og rettshåndhevelse.
Blant de mest bemerkelsesverdige reglene i loven er at den direkte forbyr AI-systemer som er i stand til å manipulere kognitiv atferd, sosial scoring og uautorisert biometrisk identifikasjon.
Så har vi høyrisikokategorien, som omfatter kunstig intelligens i kritisk infrastruktur, utdanningsverktøy, arbeidsledelse med mer. Disse systemene vil gjennomgå grundige vurderinger før og etter lansering på markedet. Publikum har mulighet til å varsle myndighetene om disse AI-systemene.
Generativ AI, som OpenAIs ChatGPT, får et spesielt nikk i loven. Selv om disse plattformene ikke er stemplet som høyrisikoplatt, forventes det at de er åpne om hvordan de fungerer og hvilke data de trener på, i tråd med EUs lover om opphavsrett.
Her er en kort oppsummering av de viktigste reglene i loven:
- Forbudte AI-systemer: Involverer kognitiv atferdsmanipulasjon, sosial poengberegning, uautorisert biometrisk identifikasjon og ansiktsgjenkjenning i sanntid/fjernstyrt.
- AI-systemer med høy risiko: Relatert til kritisk infrastruktur, utdanning/yrkesopplæring, produktsikkerhetskomponenter, sysselsetting og arbeidsledelse, viktige private og offentlige tjenester, rettshåndhevelse, migrasjon/asyl/grensekontroll og administrasjon av rettsvesenet/demokratiske prosesser.
- Vurdering og klager: AI-systemer med høy risiko vil bli vurdert før de lanseres på markedet og gjennom hele livssyklusen. Enkeltpersoner har rett til å klage til nasjonale myndigheter.
- Generativ AI: Systemer som ChatGPT må oppfylle kravene til åpenhet og EUs opphavsrettslovgivning, blant annet ved å offentliggjøre AI-generert innhold, forhindre ulovlig innholdsgenerering og oppsummere opphavsrettsbeskyttede data som brukes til opplæring.
- Tidslinje for implementering: AI-loven skal etter planen tre i kraft i midten av 2024, med bestemmelser som rulles ut trinnvis i løpet av to år. Forbudte systemer må fases ut innen seks måneder, regler for generell AI gjelder etter ett år, og full håndhevelse begynner to år etter at loven trer i kraft.
- Bøter: Manglende overholdelse kan føre til bøter på opptil 35 millioner euro eller 7% av den årlige omsetningen på verdensbasis.
I tillegg til å regulere opplæring i og bruk av kunstig intelligens, var et av de mest etterlengtede aspektene ved loven reglene om opphavsrett. Disse omfatter noe av det følgende:
- AI-modeller som er utviklet for et bredt spekter av bruksområder, må offentliggjøre sammendrag av treningsdataene de benytter.
- Opplysningene skal være tilstrekkelig detaljerte til at opphavspersonene kan identifisere om innholdet deres har blitt brukt i opplæringen.
- Dette kravet gjelder også for modeller med åpen kildekode.
- Eventuelle modifikasjoner av disse modellene, for eksempel finjusteringer, må også inkludere informasjon om treningsdataene som er brukt.
- Disse reglene gjelder for alle modeller som tilbys på EU-markedet, uavhengig av hvor de er utviklet.
- Små og mellomstore bedrifter (SMB-er) vil få en mer fleksibel håndheving, men må fortsatt overholde opphavsrettslovene.
- Den eksisterende bestemmelsen om at opphavspersoner kan reservere seg mot at verkene deres brukes i AI-trening, gjelder fortsatt.
Dette virker som et skritt fremover når det gjelder å beskytte folks data mot å bli brukt til AI-modelltrening uten deres tillatelse.
AI-loven skal formelt tre i kraft i midten av 2024, og bestemmelsene i loven vil gradvis tre i kraft.
EU forventer at forbudte AI-praksiser eller -prosjekter avsluttes innen seks måneder. Et år senere må AI-systemer for generelle formål overholde de nye reglene, og innen to år trer loven i kraft i sin helhet.
Selv om loven har både tilhengere og kritikereDet er en viktig begivenhet for teknologibransjen og utfordrer andre regioner til å fremskynde sine strategier for styring av kunstig intelligens.
EU-parlamentariker Dragos Tudorache forklarte hvordan den signaliserer en ny æra for AI-teknologi: "AI-loven er ikke slutten på reisen, men startpunktet for ny styring bygget rundt teknologi", og fremhevet pionerånden i denne lovgivningen.
Bedrifter, teknologigiganter og myndigheter verden over følger nøye med, og det er tydelig at ringvirkningene av denne lovgivningen vil merkes langt utenfor Europas grenser. Vi vil snart forstå de virkelige konsekvensene.
