Donderdag werd in Vilnius, Litouwen, overeenstemming bereikt over het Kaderverdrag inzake AI van de Raad van Europa. Dit is een belangrijke stap om de ontwikkeling van AI op één lijn te brengen met mensenrechten, democratie en de rechtsstaat.
De Verenigde Staten, de Europese Unie, het Verenigd Koninkrijk en Israël behoorden tot de eerste ondertekenaars.
Andere ondertekenaars waren Andorra, Georgië, IJsland, Noorwegen, de Republiek Moldavië en San Marino. Verwacht wordt dat meer landen zich de komende weken en maanden zullen aansluiten.
Het is in twee jaar ontwikkeld met input van meer dan 50 landen en heeft als doel een uniform wereldwijd, juridisch bindend kader voor AI-governance te creëren.
Een nieuw hoofdstuk in AI-regulering
Dit verdrag is de laatste in een reeks pogingen om AI te reguleren.
De afgelopen maanden is er een stortvloed aan overeenkomsten geweest, waaronder de AI-wetde G7-overeenkomst afgelopen oktober, en de Bletchley Verklaring ondertekend door 28 landen in november 2023.
In mei ondertekenden 16 internationale techbedrijven, waaronder Amazon, Google en Microsoft, ook een nieuw vrijwillig veiligheidskader.
Initiatieven voor AI-governance stapelen zich op. Dit weerspiegelt de toenemende bezorgdheid over de potentiële risico's van AI.
Tot nu toe betwijfelen velen echter of vrijwillige verbintenissen enige 'tanden' hebben. Zijn ze niet meer dan sentimenten?
Het verdrag van de Raad van Europa wil dit aanpakken met een juridisch bindend verdrag. Het vereist dat ondertekenaars waarborgen implementeren tegen AI-gerelateerde bedreigingen voor mensenrechten, democratie en de rechtsstaat.
Het verdrag verplicht tot het afleggen van verantwoording voor schadelijke uitkomsten en zorgt ervoor dat AI de privacyrechten respecteert.
Věra Jourová, vicevoorzitter van de Europese Commissie voor Waarden en Transparantie, de conventie genoemd een blauwdruk voor wereldwijde AI-regulering: "Dit kader moet vertrouwen opbouwen dat AI-innovaties onze waarden respecteren."
Het verdrag heeft betrekking op het gebruik van AI in de publieke en private sector. Organisaties moeten de impact van hun AI-systemen op rechten en democratie beoordelen en hun bevindingen openbaar maken.
Verder moeten gebruikers weten wanneer ze met AI communiceren en niet met mensen, en moeten ze door AI genomen beslissingen kunnen aanvechten.
Hoewel het kader wordt omschreven als "wettelijk afdwingbaar", lijkt het specifieke sancties zoals boetes te missen. Het vertrouwt voornamelijk op toezicht voor naleving.
Er zijn stukjes en beetjes geweest van handhaving tegen AI-bedrijven, waaronder deze week toen Clearview AI kreeg een boete van $33m door een Nederlands agentschap voor het schrapen van gezichtsfoto's voor zijn beeldbank.
Toch is het weer een stap in de richting van uniformering van wereldwijde AI-regels en een aanvulling op de AI-wet door de invoering van afdwingbare regels buiten de EU.
De wereldwijde reikwijdte van het verdrag is essentieel. Marija Pejčinović Burić, secretaris-generaal van de Raad van Europa, sprak de hoop uit op "veel handtekeningen en snelle ratificaties".
Het verdrag moet worden geratificeerd door vijf ondertekenaars, waaronder drie leden van de Raad van Europa, voordat het in werking kan treden.
Zodra het van kracht is, zal het openstaan voor landen over de hele wereld, waardoor er mogelijk een echte wereldwijde standaard voor AI-governance ontstaat.
