EU-onderhandelaars boeken enige vooruitgang met AI-wet, maar laatste besprekingen moeten nog komen

De EU-onderhandelingen over de belangrijke AI-wet werden donderdag tijdelijk onderbroken, maar de partijen kwamen overeen om vrijdag weer bijeen te komen. 

De belangrijke gesprekken waarbij EU-lidstaten, de Europese Commissie en het Europees Parlement betrokken zijn, gaan hun derde dag in. 

"We zijn uitgeput. We kunnen zo niet doorgaan. We moeten slapen zodat we de teksten opnieuw kunnen beoordelen", aldus een deelnemer aan de bijeenkomst. gesprekken vertelde ReutersHij wil liever anoniem blijven.

De onderhandelaars, die onder druk stonden van naderende verkiezingen in de hele EU die de voortgang van de wet ernstig zouden belemmeren, werkten 's nachts om overeenstemming te bereiken over omstreden aspecten van de wet. 

De AI-wet is op veel complicaties gestuit, omdat hij voor het eerst werd geformuleerd in 2019, toen generatieve AI zoals we die nu kennen nog maar een glimp in de ogen van de makers was. 

De Europese commissaris voor mededinging, Thierry Breton, toonde zich optimistisch over X: "De afgelopen 22 uur is er veel vooruitgang geboekt met de AI-wet. We hervatten de werkzaamheden met het EU-parlement en de Raad morgen om 9.00 uur. Stay tuned!"

Veel vooruitgang geboekt in de afgelopen 22 uur op de #AIAct

Hervatting van de werkzaamheden met het EU-Parlement en de Raad morgen om 9:00 AM

Blijf kijken!#Triloog pic.twitter.com/gEnggaRKTR

- Thierry Breton (@ThierryBreton) 7 december 2023

Er is echter wel enige vooruitgang geboekt, met een voorlopig akkoord over het reguleren van AI-systemen zoals ChatGPT en Bard. 

Volgens een door Reuters ingezien document is de Europese Commissie van plan om een lijst op te stellen van AI-modellen die als een "systeemrisico" worden beschouwd. Daarnaast moeten leveranciers van AI-systemen voor algemene doeleinden uitgebreide samenvattingen van hun trainingsgegevens openbaar maken.

De voorgestelde wet zou met name vrije en open-source AI-licenties kunnen vrijstellen van regelgeving, behalve in risicovolle scenario's of voor verboden gebruik. 

Als de vrijstelling voor open-source modellen ontwikkeld door bedrijven zoals Franse Mistral en Duitse Aleph Alpha wordt opgenomen in de uiteindelijke wetgeving, zou dit worden gezien als een overwinning voor deze bedrijven.

Ze waarschuwden echter: "De wet is nog niet vastgesteld, dus we kunnen niet overhaast conclusies trekken."

Belangrijkste gebieden van overeenkomst

Tot nu toe heeft de EU deze week overeenstemming bereikt over het volgende:

1. Dekking en definities: De AI-wet zal een definitie van AI aannemen die overeenkomt met de definitie van de OESO. onlangs gewijzigde definitie. Het ziet ernaar uit dat vrije en open source modellen buiten het toepassingsgebied van de verordening zullen vallen, tenzij ze worden gecategoriseerd als zeer risicovol, worden gebruikt voor verboden toepassingen of het risico lopen gemanipuleerd te worden. Het is onduidelijk of modellen zoals LLaMA hieronder zullen vallen, maar het lijkt waarschijnlijk. 
2. Funderingsmodellen: De Wet handhaaft zijn trapsgewijze aanpak, waarbij modellen die zijn getraind met rekenkracht boven bepaalde drempels automatisch worden gecategoriseerd als 'systeemrisico'. Andere regels hebben betrekking op het aantal zakelijke gebruikers en de parameters van het model, aanpasbaar aan de technologische vooruitgang. Transparantieverplichtingen vereisen het publiceren van gedetailleerde samenvattingen van trainingsgegevens.
3. Bestuur: Een AI-bureau binnen de Commissie zal toezien op de naleving van de modelbepalingen. Nationale autoriteiten zullen toezicht houden op AI-systemen die worden gecoördineerd door de European Artificial Intelligence Board voor een consistente toepassing van de wet. Een adviesforum en een wetenschappelijk panel zullen input van deskundigen leveren.
4. Verboden praktijken: De wet bevat een lijst met verboden AI-toepassingen vanwege onaanvaardbare risico's, zoals manipulatietechnieken, uitbuiting van kwetsbaarheden, social scoring en het lukraak schrapen van gezichtsfoto's. Het Europees Parlement stelt voor deze lijst uit te breiden, maar stuit op verzet van de Raad. Het Europees Parlement stelt voor om deze lijst uit te breiden, maar dit stuit op verzet van de Raad.
5. Regulering van reeds bestaande AI-systemen: De wet zal van toepassing zijn op AI-systemen die al op de markt zijn als ze significante wijzigingen ondergaan.

Controversiële gebieden 

De EU moet nog een consensus bereiken:

• Vrijstelling voor nationale veiligheid: EU-landen, aangevoerd door Frankrijk, pleiten voor een brede vrijstelling voor AI-systemen die worden gebruikt in militaire of defensiecontexten, inclusief systemen die worden gebruikt door externe aannemers.
• Rechtshandhaving: Er blijven geschillen bestaan over het gebruik van AI in wetshandhavingVooral met betrekking tot voorspellend politiewerk, software voor emotieherkenning en biometrische identificatie op afstand (RBI). Het Parlement en de Raad zijn het niet eens over de reikwijdte van verboden en uitzonderingen op deze gebieden.
• Wereldwijde impact: Er is een discussie gaande over de vraag of de verbodsbepalingen van de wet alleen binnen de EU moeten gelden of ook moeten voorkomen dat in de EU gevestigde bedrijven beperkte AI-toepassingen in het buitenland verkopen.

Tegen het einde van de week zal de industrie een beter idee hebben van de richting van de AI-wet. Het ziet er echter naar uit dat er nog een paar wendingen zullen volgen.