Europarådets rammekonvensjon om kunstig intelligens ble vedtatt torsdag i Vilnius, Litauen, og markerer et viktig skritt i arbeidet med å tilpasse utviklingen av kunstig intelligens til menneskerettigheter, demokrati og rettsstatsprinsipper.
USA, EU, Storbritannia og Israel var blant de første landene som undertegnet avtalen.
Andre land som undertegnet avtalen var Andorra, Georgia, Island, Norge, Republikken Moldova og San Marino. Det forventes at flere land vil slutte seg til i løpet av de kommende ukene og månedene.
Den er utviklet over to år med innspill fra mer enn 50 land, og har som mål å skape et enhetlig, globalt og juridisk bindende rammeverk for styring av kunstig intelligens.
Et nytt kapittel i reguleringen av kunstig intelligens
Denne traktaten er den siste i rekken av forsøk på å regulere kunstig intelligens.
De siste månedene har det blitt inngått en rekke avtaler, blant annet EUs AI-lovenG7-avtalen i oktober i fjor, og Bletchley-erklæringen undertegnet av 28 land i november 2023.
I mai undertegnet også 16 internasjonale teknologiselskaper, inkludert Amazon, Google og Microsoft, en nytt frivillig rammeverk for sikkerhet.
Initiativene for styring av kunstig intelligens hoper seg opp. Det gjenspeiler den økende bekymringen rundt de potensielle risikoene ved kunstig intelligens.
Men så langt har mange stilt seg tvilende til om de frivillige forpliktelsene har noen "tenner". Er de mer enn følelser?
Europarådets konvensjon tar sikte på å løse dette med en juridisk bindende traktat. Den krever at signatarstatene innfører sikkerhetstiltak mot AI-relaterte trusler mot menneskerettighetene, demokratiet og rettsstatsprinsippene.
Traktaten pålegger ansvar for skadelige resultater og sikrer at AI respekterer personvernrettighetene.
Věra Jourová, visepresident i Europakommisjonen for verdier og åpenhet, kalt konvensjonen en plan for global regulering av kunstig intelligens: "Dette rammeverket bør bygge tillit til at AI-innovasjoner respekterer våre verdier."
Traktaten dekker bruk av kunstig intelligens i offentlig og privat sektor. Organisasjoner må vurdere hvordan AI-systemene deres påvirker rettigheter og demokrati, og offentliggjøre resultatene.
Dessuten må brukerne vite når de samhandler med kunstig intelligens og ikke med mennesker, og de må kunne utfordre beslutninger som er tatt av kunstig intelligens.
Selv om rammeverket beskrives som "juridisk håndhevbart", ser det ut til å mangle spesifikke sanksjoner som bøter. Det baserer seg først og fremst på overvåking for å sikre etterlevelse.
Det har vært en del håndhevelser mot AI-selskaper, blant annet denne uken da Clearview AI ble ilagt en bot på $33m av et nederlandsk byrå for å skrape ansiktsbilder til bildedatabasen sin.
Likevel er det nok et skritt i retning av å forene globale AI-regler, og det utfyller AI-loven ved å innføre regler som kan håndheves utenfor EU.
Konvensjonens globale omfang er avgjørende. Europarådets generalsekretær Marija Pejčinović Burić uttrykte håp om "mange underskrifter og raske ratifiseringer".
Traktaten må ratifiseres av fem signatarer, inkludert tre medlemmer av Europarådet, for at den skal tre i kraft.
Når den trer i kraft, vil den være åpen for land over hele verden, noe som potensielt kan skape en virkelig global standard for styring av kunstig intelligens.
