Europaparlamentet har godkänt världens första heltäckande AI-lagstiftning, vilket väcker både entusiasm och oro.
523 röster avgavs för lagen, 46 röster emot och 49 nedlagda röster. Den kommer troligen att träda i kraft i maj i år.
AI-lagen introducerar ett nytt, riskbaserat tillvägagångssätt för styrning av AI. Den kategoriserar AI-system utifrån deras potentiella hot och reglerar dem i enlighet med detta.
EU:s lagstiftning är notoriskt komplex, och detta är kulmen på flera års ansträngningar och några hårda stunder då vissa länder började tveka om lagens inverkan på deras ekonomier och konkurrens.
Utvecklingen fick sig en törn i juni förra året när cirka 150 stora europeiska företag varnade för driva restriktiva regleringar.
Väntan är äntligen över. AI-lagen är mycket omfattande och omfattar allt från vardagliga verktyg som spamfilter till mer komplexa system som används inom hälso- och sjukvård och brottsbekämpning.
Bland de mest anmärkningsvärda reglerna förbjuder lagen helt och hållet AI-system som kan manipulera kognitiva beteenden, social poängsättning och obehörig biometrisk identifiering.
Sedan finns det en kategori med "hög risk", som omfattar AI i kritisk infrastruktur, utbildningsverktyg, arbetsledning med mera. Dessa system kommer att genomgå rigorösa utvärderingar före och efter marknadsintroduktionen. Allmänheten har möjlighet att flagga för dessa AI-system till utsedda myndigheter.
Generativ AI, som OpenAI:s ChatGPT, får ett särskilt erkännande i lagen. Även om dessa plattformar inte betecknas som högriskplattformar förväntas de vara transparenta med hur de fungerar och vilka data de använder, i linje med EU:s upphovsrättslagar.
Här följer en kort sammanfattning av de viktigaste reglerna i lagen:
- Förbjudna AI-system: Innebär kognitiv beteendemanipulation, social poängsättning, obehörig biometrisk identifiering och ansiktsigenkänning i realtid/på distans.
- AI-system med hög risk: Relaterat till kritisk infrastruktur, utbildning/yrkesutbildning, produktsäkerhetskomponenter, sysselsättning och arbetsledning, viktiga privata och offentliga tjänster, brottsbekämpning, migration/asyl/gränskontroll samt rättskipning/demokratiska processer.
- Bedömning och klagomål: AI-system med hög risk kommer att genomgå bedömningar innan de lanseras på marknaden och under hela sin livscykel. Enskilda personer har rätt att lämna in klagomål till nationella myndigheter.
- Generativ AI: System som ChatGPT måste uppfylla kraven på transparens och EU:s upphovsrättslagstiftning, inklusive att avslöja AI-genererat innehåll, förhindra olaglig innehållsgenerering och sammanfatta upphovsrättsskyddade data som används för utbildning.
- Tidslinje för implementering: AI-lagen ska träda i kraft i mitten av 2024, med bestämmelser som införs stegvis under två år. Förbjudna system måste fasas ut inom sex månader, regler för AI för allmänna ändamål gäller efter ett år och full tillämpning börjar två år efter det att lagen träder i kraft.
- Böter: Bristande efterlevnad kan leda till böter på upp till 35 miljoner euro eller 7% av den globala årsomsättningen.
Förutom att reglera utbildning och användning av AI var en av de mest efterlängtade aspekterna av lagen dess upphovsrättsregler. Dessa inkluderar några av följande:
- AI-modeller som utformats för ett brett spektrum av användningsområden måste offentliggöra sammanfattningar av de träningsdata de använder.
- Upplysningarna ska vara tillräckligt detaljerade för att upphovsmännen ska kunna identifiera om deras innehåll har använts i utbildningen.
- Detta krav gäller även för modeller med öppen källkod.
- Alla ändringar av dessa modeller, t.ex. finjustering, måste också innehålla information om de träningsdata som använts.
- Dessa regler gäller för alla modeller som erbjuds på EU-marknaden, oavsett var de har utvecklats.
- Små och medelstora företag kommer att få en mer flexibel tillämpning, men måste fortfarande följa upphovsrättslagarna.
- Den befintliga bestämmelsen om att upphovsmän kan utesluta sina verk från att användas i AI-utbildning kvarstår.
Detta verkar vara ett steg framåt när det gäller att skydda människors data från att användas för AI-modellutbildning utan deras tillstånd.
AI-lagens bestämmelser, som formellt ska träda i kraft i mitten av 2024, kommer gradvis att börja tillämpas.
EU förväntar sig att förbjudna AI-metoder eller projekt avslutas inom sex månader. Ett år senare måste AI-system för allmänna ändamål följa nya regler och inom två år träder lagen i kraft i sin helhet.
Även om lagen har både anhängare och kritikerDet är en milstolpe för teknikbranschen och utmanar andra regioner att påskynda sina strategier för styrning av AI.
Ledamoten Dragos Tudorache förklarade hur det signalerar en ny era för AI-teknik: "AI-lagen är inte slutet på resan utan startpunkten för en ny styrning som bygger på teknik", vilket understryker pionjärandan i denna lagstiftning.
Företag, teknikjättar och regeringar över hela världen följer noga utvecklingen, och det är uppenbart att den här lagstiftningen kommer att ge ringar på vattnet långt utanför Europas gränser. Vi kommer snart att förstå den verkliga effekten.
