Allt du behöver veta om EU:s banbrytande avtal om AI

EU har nått en överenskommelse om AI-lagen, vilket innebär att den sannolikt kommer att träda i kraft 2024-2025 som planerat. 

Detta viktiga beslut var resultatet av en intensiv 37 timmar lång förhandling mellan Europaparlamentet och EU:s medlemsländer.

Thierry Breton, den EU-kommissionär som är huvudansvarig för den nya lagstiftningen, beskrev överenskommelsen som "historisk". Samtalen har pågått sedan i tisdags, och vissa dagar har förhandlarna arbetat hela natten. 

Historiskt!

EU blir den första kontinenten att fastställa tydliga regler för användningen av AI 🇪🇺

Den #AIAct är mycket mer än en regelbok - det är en startplatta för nystartade företag och forskare i EU som ska leda den globala AI-kapplöpningen.

Det bästa är ännu kvar att komma! 👍 pic.twitter.com/W9rths31MU

- Thierry Breton (@ThierryBreton) 8 december 2023

Carme Artigas, Spaniens statssekreterare för AI, var avgörande för att förhandlingarna skulle kunna slutföras på ett framgångsrikt sätt.

Artigas påpekade det betydande stöd som texten fick från stora europeiska länder, och sade särskilt att "Frankrike och Tyskland stödde texten". Detta är anmärkningsvärt, eftersom Frankrike och Tyskland, som är angelägna om att uppmuntra sina egna växande AI-industrier, ifrågasatte några av de strängare delarna av lagen. 

EU är nu redo att visa vägen för reglering av AI. Även om det specifika innehållet i och konsekvenserna av de nya lagarna fortfarande är under utveckling kommer de sannolikt att träda i kraft 2024/2025. 

Viktiga avtal och aspekter av EU:s AI-lag

Den preliminär överenskommelse om AI-lagen är ett historiskt steg i regleringen av AI. Det följer i fotspåren av andra EU-regleringar på teknikområdet, t.ex. GDPR, som har lett till att teknikföretag har fått betala miljardböter under årens lopp. 

Carme Artigas, spansk statssekreterare för digitalisering och artificiell intelligens, sade om lagen: "Detta är en historisk bedrift och en enorm milstolpe mot framtiden! Dagens avtal tar effektivt itu med en global utmaning i en snabbt föränderlig teknisk miljö på ett nyckelområde för våra samhällens och ekonomiers framtid. Och i denna strävan har vi lyckats hålla en ytterst känslig balans: att främja innovation och införande av artificiell intelligens i hela Europa samtidigt som vi fullt ut respekterar våra medborgares grundläggande rättigheter."

Här är de kärnan nya aspekter av den överenskomna lagstiftningen:

• AI-system med stor påverkan och hög risk: Genom avtalet införs regler för AI-modeller för allmänt bruk som kan utgöra "systemrisker". Exakt vad detta innebär är fortfarande tvetydigt, men det är i stort sett utformat för att tillgodose nya generationer av modeller på GPT-4-nivå och därefter. 
• Styrning och genomförande: Ett reviderat styrningssystem inrättades, inklusive vissa verkställighetsbefogenheter på EU-nivå. Detta säkerställer ett centraliserat tillvägagångssätt för att reglera AI i alla medlemsländer.
• Förbud och undantag för brottsbekämpning: Avtalet utökar listan över förbjudna AI-metoder men tillåter att brottsbekämpande myndigheter använder biometrisk identifiering på distans i offentliga utrymmen under strikta villkor. Detta syftar till att balansera allmän säkerhet med integritet och medborgerliga fri- och rättigheter.
• Skydd av rättigheter: En viktig aspekt av avtalet är skyldigheten för användare av AI-system med hög risk att bedöma konsekvenserna för människors rättigheter innan de använder ett AI-system. "Användare" är nyckelordet här, eftersom lagen ålägger ansvar i hela AI-värdekedjan.

Andra överenskomna områden är bland annat:

• Definitioner och omfattning: Definitionen av AI-system har anpassats till OECD:s definitionoch förordningen undantar AI-system som uteslutande används för militära ändamål, försvarsändamål, forskning och innovation eller av enskilda personer av icke-professionella skäl.
• Klassificering av AI-system: AI-system kommer att klassificeras utifrån risk, där högrisk-system kommer att omfattas av stränga krav medan system med begränsad risk kommer att omfattas av mindre stränga krav på transparens. Detta har varit avsikten hela tiden.
• Modeller för fundament: Avtalet behandlar grundmodeller, stora AI-system som kan utföra olika uppgifter som ChatGPT/Bard/Claude 2. Specifika transparensskyldigheter fastställs för dessa modeller, med strängare regler för foundation-modeller med stor genomslagskraft.
• Krav på AI-system med hög risk: AI-system med hög risk kommer att tillåtas på EU-marknaden men måste uppfylla särskilda krav, inklusive datakvalitet och teknisk dokumentation, särskilt för små och medelstora företag.
• Ansvar i värdekedjor för AI: Avtalet klargör rollerna och ansvarsområdena för olika aktörer i värdekedjorna för AI-system, inklusive leverantörer och användare, och hur dessa förhåller sig till befintlig EU-lagstiftning.
• Förbjudna AI-metoder: Lagen förbjuder vissa oacceptabla AI-metoder, t.ex. kognitiv beteendemanipulation, icke målinriktad skrapning av ansiktsbilder och känsloigenkänning på arbetsplatser och utbildningsinstitutioner.
• Nödprocedurer för brottsbekämpning: Ett nödförfarande gör det möjligt för brottsbekämpande myndigheter att använda AI-verktyg med hög risk som inte har klarat bedömningen av överensstämmelse i brådskande situationer.
• Biometrisk identifiering i realtid: Brottsbekämpande myndigheters användning av biometriska identifieringssystem på distans i realtid på offentliga platser är tillåten under strikta villkor för särskilda ändamål, t.ex. för att förhindra terroristattacker eller söka efter misstänkta för grova brott.

Styrning, påföljder och verkställighet:

• Styrning: Ett AI-kontor inom kommissionen ska övervaka avancerade AI-modeller, med stöd av en vetenskaplig panel med oberoende experter och AI-styrelsen som består av företrädare för medlemsländerna.
• Påföljder: I avtalet fastställs böter baserade på en procentandel av företagets globala årsomsättning för olika överträdelser, med mer proportionerliga tak för små och medelstora företag och nystartade företag.
• Böter: Påföljder för bristande efterlevnad har fastställts baserat på hur allvarlig överträdelsen är. Böterna beräknas antingen som en procentandel av företagets globala årsomsättning från föregående räkenskapsår eller som ett fast belopp. Det högsta av dessa två belopp tillämpas. Böterna är strukturerade enligt följande: 35 miljoner euro eller 7% av omsättningen för överträdelser som rör förbjudna AI-applikationer, 15 miljoner euro eller 3% för överträdelser av lagens skyldigheter och 7,5 miljoner euro eller 1,5% för lämnande av felaktig information.
• Stöd: Avtalet omfattar regulatoriska sandlådor för AI för att testa innovativa AI-system under verkliga förhållanden och ger stöd till mindre företag.

Denna preliminära överenskommelse måste fortfarande godkännas av Europaparlamentet och EU:s 27 medlemsländer.

Hur kommer lagstiftningen att påverka "frontier models"?

Enligt de nya reglerna måste alla utvecklare av generella AI-system, särskilt de som har ett brett spektrum av potentiella tillämpningar som ChatGPT och Bard, upprätthålla uppdaterad information om hur deras modeller tränas, tillhandahålla en detaljerad sammanfattning av de data som används i träningen och ha policyer som respekterar upphovsrättslagar och säkerställer acceptabel användning.

Lagen klassificerar också vissa modeller som en "systemrisk". Denna bedömning baseras främst på den beräkningskraft som dessa modeller använder. EU har satt ett tröskelvärde för denna kategori vid modeller som använder mer än 10 biljoner biljoner operationer per sekund.

För närvarande är OpenAI:s GPT-4 den enda modell som automatiskt uppfyller detta tröskelvärde. EU kan dock komma att märka andra modeller enligt denna definition. 

Modeller som bedöms vara systemviktiga kommer att omfattas av ytterligare, strängare regler. Dessa inkluderar:

• Obligatorisk rapportering av energiförbrukning.
• Genomföra red-teaming eller kontradiktoriska tester.
• Bedömning och begränsning av potentiella systemrisker.
• Säkerställa robusta cybersäkerhetskontroller.
• Rapportera både den information som använts för att finjustera modellen och detaljer om deras systemarkitektur.

Hur har avtalet tagits emot?

AI-lagen har gett upphov till en mängd reaktioner med kommentarer om dess innovation, reglering och samhälleliga påverkan. 

Fritz-Ulli Pieper, specialist på IT-rätt vid Taylor Wessing, påpekade att även om slutet är i sikte kan lagen fortfarande komma att ändras.

Han konstaterade: "Många punkter återstår att arbeta vidare med i det tekniska trepartsmötet. Ingen vet hur den slutliga formuleringen kommer att se ut och om eller hur man verkligen kan driva igenom nuvarande överenskommelse i en slutlig lagtext." 

Piepers insikter visar på komplexiteten och osäkerheten kring AI-lagen, vilket tyder på att mycket arbete återstår för att säkerställa att den slutliga lagstiftningen är effektiv och praktisk.

Ett centralt tema för dessa möten har varit att balansera risker och möjligheter med AI, särskilt som modeller kan vara "dubbelnaturliga", vilket innebär att de kan ge fördelar och orsaka skada. Alexandra van Huffelen, Nederländernas digitaliseringsminister, konstaterade: "Att hantera AI innebär att fördela möjligheterna och riskerna rättvist." 

Lagen verkade inte heller skydda EU-medborgarna från storskalig övervakning, vilket uppmärksammades av intresseorganisationer som Amnesty International.

Mher Hakobyan, Advocacy Advisor på Artificial Intelligence, sade om denna kontroversiella punkt: "Att inte säkerställa ett fullständigt förbud mot ansiktsigenkänning är därför en enormt missad möjlighet att stoppa och förhindra kolossal skada på mänskliga rättigheter, medborgerligt utrymme och rättsstatsprincipen som redan hotas i hela EU."

Efter denna preliminära överenskommelse kommer AI-lagen att börja tillämpas två år efter det att den officiellt antagits, vilket gör det möjligt för regeringar och företag i hela EU att förbereda sig för att följa dess bestämmelser. 

Under tiden kommer tjänstemännen att förhandla om de tekniska detaljerna i förordningen. När de tekniska finjusteringarna har slutförts kommer kompromisstexten att läggas fram för medlemsländernas företrädare för godkännande.

Det sista steget innebär en juridisk-lingvistisk översyn för att säkerställa tydlighet och juridisk korrekthet, följt av det formella antagandet. AI-lagen kommer med all säkerhet att förändra branschen både inom EU och globalt, men omfattningen är svår att förutse.