Europa-Parlamentet har godkendt verdens første omfattende lovgivning om kunstig intelligens, og det vækker både begejstring og bekymring.
Der blev afgivet 523 stemmer for loven, 46 imod og 49 hverken for eller imod. Den vil sandsynligvis træde i kraft i maj.
AI-loven indfører en ny, risikobaseret tilgang til AI-styring. Den kategoriserer AI-systemer baseret på deres potentielle trusler og regulerer dem i overensstemmelse hermed.
EU-lovgivning er notorisk kompleks, og dette er kulminationen på flere års indsats og nogle hårrejsende øjeblikke, hvor nogle lande blev usikre på lovens indvirkning på deres økonomi og konkurrence.
Dens udvikling fik endnu et slag i juni sidste år, da omkring 150 store europæiske virksomheder advarede mod forfølge restriktive regler.
Ventetiden er endelig forbi. Fra hverdagsværktøjer som spamfiltre til mere komplekse systemer, der bruges i sundhedsvæsenet og til retshåndhævelse, er AI-loven meget omfattende.
Blandt de mest bemærkelsesværdige regler forbyder loven direkte AI-systemer, der er i stand til kognitiv adfærdsmæssig manipulation, social scoring og uautoriseret biometrisk identifikation.
Så er der "højrisiko"-kategorien, som omfatter AI i kritisk infrastruktur, uddannelsesværktøjer, beskæftigelsesstyring og meget mere. Disse systemer vil blive underkastet strenge vurderinger før og efter markedsføringen. Offentligheden har mulighed for at gøre opmærksom på disse AI-systemer over for de udpegede myndigheder.
Generativ AI, som OpenAI's ChatGPT, får en særlig plads i loven. Selvom de ikke betegnes som højrisiko, forventes det, at disse platforme er gennemsigtige med hensyn til deres arbejde og de data, de træner på, hvilket er i overensstemmelse med EU's love om ophavsret.
Her er en kort opsummering af lovens vigtigste regler:
- Forbudte AI-systemer: Involverer kognitiv adfærdsmanipulation, social scoring, uautoriseret biometrisk identifikation og ansigtsgenkendelse i realtid/fjernbetjening.
- AI-systemer med høj risiko: Relateret til kritisk infrastruktur, uddannelse/erhvervsuddannelse, produktsikkerhedskomponenter, beskæftigelse og arbejdsledelse, vigtige private og offentlige tjenester, retshåndhævelse, migration/asyl/grænsekontrol og administration af retsvæsenet/demokratiske processer.
- Vurdering og klager: AI-systemer med høj risiko vil blive vurderet før markedslancering og i hele deres livscyklus. Enkeltpersoner har ret til at indgive klager til de nationale myndigheder.
- Generativ AI: Systemer som ChatGPT skal opfylde krav om gennemsigtighed og EU's lov om ophavsret, herunder afsløring af AI-genereret indhold, forebyggelse af ulovlig indholdsgenerering og opsummering af ophavsretligt beskyttede data, der bruges til træning.
- Tidslinje for implementering: AI-loven skal træde i kraft i midten af 2024 med bestemmelser, der udrulles i etaper over to år. Forbudte systemer skal udfases inden for seks måneder, regler for AI til generelle formål gælder efter et år, og fuld håndhævelse begynder to år efter, at loven er trådt i kraft.
- Bøder: Manglende overholdelse kan resultere i bøder på op til 35 millioner euro eller 7% af den årlige omsætning på verdensplan.
Ud over at regulere AI-træning og -anvendelse var et af de mest ventede aspekter af loven dens regler om ophavsret. Disse omfatter noget af det følgende:
- AI-modeller, der er designet til en bred vifte af anvendelser, skal offentliggøre oversigter over de træningsdata, de bruger.
- Oplysningerne skal være tilstrækkeligt detaljerede til, at skaberne kan identificere, om deres indhold er blevet brugt til træning.
- Dette krav gælder også for open source-modeller.
- Enhver ændring af disse modeller, f.eks. finjustering, skal også omfatte oplysninger om de anvendte træningsdata.
- Disse regler gælder for alle modeller, der tilbydes på EU-markedet, uanset hvor de er udviklet.
- Små og mellemstore virksomheder (SMV'er) vil få en mere fleksibel håndhævelse, men skal stadig overholde copyright-lovene.
- Den eksisterende bestemmelse om, at skabere kan udelukke deres arbejde fra at blive brugt i AI-træning, forbliver på plads.
Det virker som et skridt fremad i forhold til at beskytte folks data mod at blive brugt til træning af AI-modeller uden deres tilladelse.
AI-loven skal formelt træde i kraft i midten af 2024, og dens bestemmelser vil gradvist træde i kraft.
EU forventer, at forbudte AI-praksisser eller -projekter afsluttes inden for seks måneder. Et år senere skal AI-systemer til generelle formål overholde nye regler, og inden for to år træder loven i kraft i sin helhed.
Mens loven har både tilhængere og kritikereDet er en skelsættende begivenhed for tech-industrien og udfordrer andre regioner til at fremskynde deres AI-styringsstrategier.
MEP Dragos Tudorache forklarede, hvordan det signalerer en ny æra for AI-teknologi: "AI-loven er ikke afslutningen på rejsen, men startskuddet til en ny forvaltning, der er bygget op omkring teknologi", hvilket understreger pionerånden i denne lovgivning.
Virksomheder, tech-giganter og regeringer verden over følger nøje med, og det er tydeligt, at denne lovgivnings afsmittende virkning vil kunne mærkes langt ud over Europas grænser. Vi vil snart forstå de sande konsekvenser.
