Europarådets rammekonvention om kunstig intelligens blev vedtaget torsdag i Vilnius, Litauen, og markerer et stort skridt i retning af at tilpasse udviklingen af kunstig intelligens til menneskerettigheder, demokrati og retsstatsprincipper.
USA, EU, Storbritannien og Israel var blandt de første underskrivere.
Andre underskrivere var Andorra, Georgien, Island, Norge, Republikken Moldova og San Marino. Flere lande forventes at tilslutte sig i løbet af de kommende uger og måneder.
Den er udviklet over to år med input fra mere end 50 lande og har til formål at skabe en samlet global, juridisk bindende ramme for styring af kunstig intelligens.
Et nyt kapitel i AI-regulering
Denne traktat er den seneste i en række bestræbelser på at regulere AI.
De seneste måneder har budt på et væld af aftaler, herunder EU's AI-loven, G7-aftalen i oktober sidste år og Bletchley-erklæringen underskrevet af 28 lande i november 2023.
I maj underskrev 16 internationale teknologivirksomheder, herunder Amazon, Google og Microsoft, også en ny frivillig sikkerhedsramme.
AI-styringsinitiativerne hober sig op. Det afspejler en stigende bekymring for AI's potentielle risici.
Men indtil nu har mange tvivlet på, om frivillige forpligtelser har nogen "tænder". Er de mere end følelser?
Europarådets konvention har til formål at løse dette problem med en juridisk bindende traktat. Den kræver, at underskriverne implementerer sikkerhedsforanstaltninger mod AI-relaterede trusler mod menneskerettigheder, demokrati og retsstatsprincippet.
Traktaten påbyder ansvarlighed for skadelige resultater og sikrer, at AI respekterer retten til privatliv.
Věra Jourová, vicepræsident for Den Europæiske Kommission for Værdier og Gennemsigtighed, kaldte konventionen en plan for global regulering af kunstig intelligens: "Denne ramme skal skabe tillid til, at AI-innovationer respekterer vores værdier."
Traktaten dækker brugen af AI i den offentlige og private sektor. Organisationer skal vurdere deres AI-systemers indvirkning på rettigheder og demokrati og offentliggøre deres resultater.
Desuden skal brugerne vide, hvornår de interagerer med AI og ikke med mennesker, og de skal kunne udfordre beslutninger truffet af AI.
Selvom rammerne beskrives som "juridisk håndhævelige", synes de at mangle specifikke sanktioner som bøder. Den er primært afhængig af overvågning for at sikre overholdelse.
Der har været brudstykker af håndhævelse mod AI-virksomheder, herunder i denne uge, hvor Clearview AI fik en bøde på $33m af et hollandsk agentur for at skrabe ansigtsbilleder til sin billeddatabase.
Ikke desto mindre er det endnu et skridt i retning af at forene globale AI-regler og supplere AI-loven ved at indføre regler, der kan håndhæves uden for EU.
Konventionens globale rækkevidde er afgørende. Europarådets generalsekretær Marija Pejčinović Burić udtrykte håb om "mange underskrifter og hurtige ratificeringer".
Traktaten skal ratificeres af fem underskrivere, herunder tre medlemmer af Europarådet, for at den kan træde i kraft.
Når den er trådt i kraft, vil den være åben for lande i hele verden og potentielt skabe en virkelig global standard for AI-styring.
