EU's lov om kunstig intelligens (AI) trådte officielt i kraft den 1. august 2024 - et skelsættende øjeblik for den globale AI-regulering.
Denne omfattende lovgivning kategoriserer AI-systemer baseret på deres risikoniveauer og indfører forskellige grader af tilsyn, der varierer efter risikokategori.
Loven vil helt forbyde nogle former for AI med "uacceptabel risiko", som dem, der er designet til at manipulere folks adfærd.
Mens Handle nu er lov i alle 27 EU-medlemsstater, træder langt de fleste af dens bestemmelser ikke i kraft med det samme.
I stedet markerer denne dato begyndelsen på en forberedelsesfase for både myndigheder og virksomheder.
Ikke desto mindre er hjulene i gang, og loven vil helt sikkert forme fremtiden for, hvordan AI-teknologier udvikles, implementeres og styres, både i EU og internationalt.
Tidslinjen for implementeringen er som følger:
- Februar 2025: Forbud mod AI-praksisser med "uacceptabel risiko" træder i kraft. Disse omfatter sociale scoringssystemer, ikke-målrettede ansigtsbilleder og brugen af følelsesgenkendelsesteknologi på arbejdspladser og i uddannelsesmiljøer.
- August 2025: Krav til AI-modeller til generelle formål træder i kraft. Denne kategori, som omfatter store sprogmodeller som GPT, skal overholde regler om gennemsigtighed, sikkerhed og risikominimering.
- August 2026: Regler for højrisiko-AI-systemer i kritiske sektorer som sundhed, uddannelse og beskæftigelse bliver obligatoriske.
Europa-Kommissionen gør sig klar til at håndhæve disse nye regler.
Kommissionens talsmand Thomas Regnier forklarede, at omkring 60 eksisterende medarbejdere vil blive omdirigeret til det nye AI-kontor, og at yderligere 80 eksterne medarbejdere vil blive ansat i løbet af det næste år.
Derudover skal hvert EU-medlemsland oprette nationale kompetente myndigheder til at føre tilsyn med og håndhæve loven inden august 2025.
Overholdelse vil ikke ske fra den ene dag til den anden. Selv om enhver stor AI-virksomhed har forberedt sig på loven i nogen tid, vurderer eksperter, at det kan tage seks måneder eller mere at implementere kontrolforanstaltningerne og praksisserne.
Der står meget på spil for virksomheder, der kommer i lovens søgelys. Virksomheder, der overtræder den, kan få bøder på op til 35 millioner euro eller 7% af deres globale årlige indtægter, alt efter hvad der er højest.
Det er højere end GPDR, og EU plejer ikke at komme med tomme trusler og indsamle over 4 milliarder euro fra GDPR-bøder til dato.
Internationale påvirkninger
Som verdens første omfattende AI-regulering vil EU's AI Act sætte nye standarder på verdensplan.
Store spillere som Microsoft, Google, Amazon, Apple og Meta vil være blandt dem, der bliver hårdest ramt af de nye regler.
Som Charlie Thompson fra Appian fortalte CNBC"AI-loven vil sandsynligvis gælde for enhver organisation med aktiviteter eller indflydelse i EU, uanset hvor de har hovedkvarter."
Nogle amerikanske virksomheder træffer forebyggende foranstaltninger. Meta har f.eks. begrænset tilgængeligheden af sin AI-model LLaMa 400B i Europamed henvisning til usikkerhed om lovgivningen. OpenAI truede med at bremse produktudgivelser i Europa i 2023, men trak hurtigt i land.
For at overholde loven kan AI-virksomheder blive nødt til at revidere træningsdatasæt, implementere mere robust menneskeligt tilsyn og forsyne EU's myndigheder med detaljeret dokumentation.
Dette er i modstrid med, hvordan AI-industrien fungerer. OpenAI, Google osv.'s proprietære AI-modeller er hemmelighedsfulde og stærkt bevogtede.
Træningsdata er usædvanligt værdifulde, og hvis de blev afsløret, ville det sandsynligvis afsløre store mængder ophavsretligt beskyttet materiale.
Der er svære spørgsmål, der skal besvares, hvis AI-udviklingen skal fortsætte i samme tempo som hidtil.
Nogle virksomheder er under pres for at handle hurtigere end andre
EU-Kommissionen vurderer, at omkring 85% af AI-virksomhederne falder ind under "minimal risiko", hvilket kræver lidt tilsyn, men lovens regler påvirker ikke desto mindre aktiviteterne i virksomheder i de øverste kategorier.
Menneskelige ressourcer og beskæftigelse er et af de områder, der er en del af lovens "højrisiko"-kategori.
Store leverandører af virksomhedssoftware som SAP, Oracle, IBM, Workday og ServiceNow har alle lanceret AI-forbedrede HR-applikationer, der inkorporerer AI i screening og håndtering af kandidater.
Jesper Schleimann, SAP's AI-ansvarlige for EMEA, fortalte The Register at virksomheden har etableret robuste processer for at sikre overholdelse af de nye regler.
På samme måde har Workday implementeret et Responsible AI-program, der ledes af topledere, for at leve op til lovens krav.
En anden kategori under cosh er AI-systemer, der bruges i kritisk infrastruktur og vigtige offentlige og private tjenester.
Det omfatter en bred vifte af applikationer, fra AI, der bruges i energinet og transportsystemer, til dem, der bruges i sundhedsvæsenet og finansielle tjenester.
Virksomheder i disse sektorer skal kunne dokumentere, at deres AI-systemer lever op til strenge sikkerheds- og pålidelighedsstandarder. De skal også foretage grundige risikovurderinger, implementere robuste overvågningssystemer og sikre, at deres AI-modeller kan forklares og er gennemsigtige.
Mens AI-loven direkte forbyder visse anvendelser af biometrisk identifikation og overvågning, giver den begrænsede indrømmelser i forbindelse med retshåndhævelse og national sikkerhed.
Dette har vist sig at være et frugtbart område for AI-udvikling, hvor virksomheder som Palantir bygger avancerede systemer til forudsigelse af kriminalitet sandsynligvis vil være i modstrid med loven.
Storbritannien har allerede eksperimenteret meget med AI-drevet overvågning. Selvom Storbritannien står uden for EU, vil mange AI-virksomheder med base der næsten helt sikkert skulle overholde loven.
Usikkerhed ligger forude
Reaktionen på loven har været blandet. Mange virksomheder på tværs af EU's tech-industri har udtrykt bekymring for dens indvirkning på innovation og konkurrence.
I juni, over 150 ledere fra store virksomheder som Renault, Heineken, Airbus og Siemens gik sammen i et åbent brev, hvor de gav udtryk for deres bekymring over forordningens indvirkning på erhvervslivet.
Jeannette zu Fürstenberg, en af underskriverne og stiftende partner i den Berlin-baserede venturekapitalfond La Famiglia VC, udtalte, at AI-loven kunne få "katastrofale konsekvenser for den europæiske konkurrenceevne".
France Digitale, der repræsenterer tech-startups i Europa, kritiserede lovens regler og definitioner og sagde: "Vi opfordrede til ikke at regulere teknologien som sådan, men at regulere brugen af teknologien. Den løsning, som Europa har vedtaget i dag, svarer til at regulere matematik, hvilket ikke giver meget mening."
Tilhængerne hævder dog, at loven også giver muligheder for innovation inden for ansvarlig AI-udvikling. EU's holdning er klar: Beskyt mennesker mod AI, og en mere velafrundet, etisk drevet industri vil følge efter.
Regnier fortalte Euro News"Det, man hører overalt, er, at det, EU gør, er ren regulering (...), og at det vil blokere for innovation. Det er ikke korrekt."
"Lovgivningen er der ikke for at presse virksomhederne tilbage fra at lancere deres systemer - det er det modsatte. Vi vil gerne have, at de opererer i EU, men vi vil gerne beskytte vores borgere og vores virksomheder."
Selv om skepsissen er stor, er der grund til optimisme. Sningen af grænserne for AI-drevet ansigtsgenkendelse, social scoring og adfærdsanalyse er designet til at beskytte EU-borgernes borgerlige frihedsrettigheder, som længe har haft forrang for teknologi i EU-reglerne.
Internationalt kan loven hjælpe med at opbygge offentlighedens tillid til AI-teknologier, dæmpe frygten og sætte klarere standarder for udvikling og brug af AI.
Opbygning af langsigtet tillid til AI er afgørende for at holde industrien i gang, så der kan være en vis kommerciel fordel ved loven, selvom det vil kræve tålmodighed at se den blive til virkelighed.
