På den internationale konference "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien blev der opfordret til at regulere brugen af kunstig intelligens i autonome våbensystemer (AWS), mens teknologien stadig er i sin vorden.
Gennem århundreder har teknologiske fremskridt ført til dramatiske ændringer i, hvordan krige udkæmpes. Udviklinger som stål, krudt og til sidst atombomben fandt alle deres første anvendelse i krigsførelse, før de fandt vej til civile anvendelser.
AI er gået imod tendensen i denne henseende. De første anvendelser har stort set været i kommercielle applikationer, men forsvarsstyrkerne har hurtigt set potentialet for AI til at transformere slagmarken igen.
Med henvisning til den første atombombe fortalte den østrigske udenrigsminister Alexander Schallenberg deltagerne fra 143 lande, at verden står over for et "Oppenheimer-øjeblik", når det skal besluttes, om og hvordan AI skal bruges i autonome våben.
Menneskeheden står ved en skillevej: Autonome våbensystemer vil snart fylde verdens slagmarker. Vi er nødt til at handle og blive enige om internationale regler for at sikre, at beslutninger om liv eller død aldrig træffes af maskiner!
➡️ Startskud #AWS2024Wien med 900+ gæster fra 142 stater pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29. april 2024
Drivkraften bag det presserende behov for regler var ikke kun forventningen om potentielle fremtidige trusler, men også en reaktion på brugen af AI i aktuelle konflikter.
Autonome droner bliver brugt af begge sider i krigen i Ukraine. Israelske styrker bruger AI i flere forsvarsapplikationer, herunder angiveligt at bruge AI til at identificere menneskelige mål i krigen i Gaza.
Schallenberg sagde, at "autonome våbensystemer snart vil fylde verdens slagmarker" og advarede om, at det nu var "tid til at blive enige om internationale regler og normer for at sikre menneskelig kontrol".
Han opfordrede til at begrænse AI-våbnenes autonomi og sagde: "Lad os i det mindste sørge for, at den mest dybtgående og vidtrækkende beslutning - hvem der lever, og hvem der dør - forbliver i hænderne på mennesker og ikke på maskiner."
I en erklæring fra den østrigske regering hedder det: "Autonome våbensystemer (AWS) rejser dybe spørgsmål ud fra et juridisk, etisk, humanitært og sikkerhedsmæssigt perspektiv. Menneskeheden står ved en korsvej og må stå sammen om at løse den grundlæggende udfordring med at regulere disse våben."
Forsvarsdollar vs. menneskelighed
Igangværende konflikter har fået forsvarsbudgetterne til at stige globalt, og aktiekurserne i flere AI-drevne forsvarsteknologiske virksomheder og stiger i respons. AWS-teknologier kan være for lukrative til at forbyde.
Jaan Tallinn, en tidlig investor i Googles DeepMind Technologies sagde, at "Silicon Valleys incitamenter måske ikke er på linje med resten af menneskehedens."
I hans Hovedtale På konferencen sagde Tallinn: "Jeg beder jer om at være på vagt over for dem, der lover præcision og forudsigelighed i systemer, der bruger AI. Vi har allerede set AI begå selektionsfejl i både stort og småt - fra at genkende en dommers skaldede hoved som en fodbold til dødsfald blandt fodgængere forårsaget af selvkørende biler, der ikke kan genkende en fodgænger, der går over for rødt."
"Vi skal være ekstremt forsigtige med at stole på disse systemers nøjagtighed, uanset om det er i den militære eller civile sektor. Utilsigtede fejl forårsaget af autonome våben har potentiale til at udløse den slags krige, der aldrig burde føres."
Tallinn påpegede, at løsningen ikke er at designe AI-våben, der er mere pålidelige. Han forklarede, at "selv når autonome våben bliver i stand til at skelne perfekt mellem mennesker, vil de gøre det betydeligt lettere at udføre folkemord og målrettede drab, der søger specifikke menneskelige egenskaber."
"At træde ud af et våbenkapløb kræver mod og fremsynethed. Vi har gjort det før, og vi kan gøre det igen."
Fra åbningen af forhandlingerne på den historiske Wien-konference om autonome våben #AWS2024 i går, her er FLI's medstifter Jaan Tallinns fulde hovedtale ⬇️ pic.twitter.com/wFYxWpDl1S
- Future of Life Institute (@FLI_org) 30. april 2024
I en endelig erklæring, som skal sendes til FN's generalsekretær, bekræfter gruppen sit "stærke engagement i at arbejde hurtigt og sammen med alle interesserede interessenter for et internationalt juridisk instrument til regulering af autonome våbensystemer".
Udtalelsen tilføjede: "Vi har et ansvar for at handle og indføre de regler, vi har brug for til at beskytte menneskeheden ... Menneskelig kontrol skal være fremherskende i brugen af magt."
Mere end 115 FN-medlemslande er enige om behovet for bindende regler for AWS, men at undgå et veto fra Rusland, Kina eller USA er ikke nok. US virker usandsynligt.
Anthony Aguirre, kosmolog og medstifter af Future Life Institute, opsummerede situationen ved at sige: "Fremtiden for slagteribots er her."
