AI står over for et "Oppenheimer-øjeblik" i våbenkapløbet med dræberrobotter

1. maj 2024
  • En international konference i Wien diskuterede behovet for at regulere autonome AI-våben
  • Den østrigske udenrigsminister Alexander Schallenberg sagde, at verden står over for et "Oppenheimer-øjeblik".
  • AI bruges allerede i krige i Israel og Ukraine i mangel af regler for teknologien

På den internationale konference "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien blev der opfordret til at regulere brugen af kunstig intelligens i autonome våbensystemer (AWS), mens teknologien stadig er i sin vorden.

Gennem århundreder har teknologiske fremskridt ført til dramatiske ændringer i, hvordan krige udkæmpes. Udviklinger som stål, krudt og til sidst atombomben fandt alle deres første anvendelse i krigsførelse, før de fandt vej til civile anvendelser.

AI er gået imod tendensen i denne henseende. De første anvendelser har stort set været i kommercielle applikationer, men forsvarsstyrkerne har hurtigt set potentialet for AI til at transformere slagmarken igen.

Med henvisning til den første atombombe fortalte den østrigske udenrigsminister Alexander Schallenberg deltagerne fra 143 lande, at verden står over for et "Oppenheimer-øjeblik", når det skal besluttes, om og hvordan AI skal bruges i autonome våben.

Drivkraften bag det presserende behov for regler var ikke kun forventningen om potentielle fremtidige trusler, men også en reaktion på brugen af AI i aktuelle konflikter.

Autonome droner bliver brugt af begge sider i krigen i Ukraine. Israelske styrker bruger AI i flere forsvarsapplikationer, herunder angiveligt at bruge AI til at identificere menneskelige mål i krigen i Gaza.

Schallenberg sagde, at "autonome våbensystemer snart vil fylde verdens slagmarker" og advarede om, at det nu var "tid til at blive enige om internationale regler og normer for at sikre menneskelig kontrol".

Han opfordrede til at begrænse AI-våbnenes autonomi og sagde: "Lad os i det mindste sørge for, at den mest dybtgående og vidtrækkende beslutning - hvem der lever, og hvem der dør - forbliver i hænderne på mennesker og ikke på maskiner."

I en erklæring fra den østrigske regering hedder det: "Autonome våbensystemer (AWS) rejser dybe spørgsmål ud fra et juridisk, etisk, humanitært og sikkerhedsmæssigt perspektiv. Menneskeheden står ved en korsvej og må stå sammen om at løse den grundlæggende udfordring med at regulere disse våben."

Forsvarsdollar vs. menneskelighed

Igangværende konflikter har fået forsvarsbudgetterne til at stige globalt, og aktiekurserne i flere AI-drevne forsvarsteknologiske virksomheder og stiger i respons. AWS-teknologier kan være for lukrative til at forbyde.

Jaan Tallinn, en tidlig investor i Googles DeepMind Technologies sagde, at "Silicon Valleys incitamenter måske ikke er på linje med resten af menneskehedens."

I hans Hovedtale På konferencen sagde Tallinn: "Jeg beder jer om at være på vagt over for dem, der lover præcision og forudsigelighed i systemer, der bruger AI. Vi har allerede set AI begå selektionsfejl i både stort og småt - fra at genkende en dommers skaldede hoved som en fodbold til dødsfald blandt fodgængere forårsaget af selvkørende biler, der ikke kan genkende en fodgænger, der går over for rødt."

"Vi skal være ekstremt forsigtige med at stole på disse systemers nøjagtighed, uanset om det er i den militære eller civile sektor. Utilsigtede fejl forårsaget af autonome våben har potentiale til at udløse den slags krige, der aldrig burde føres."

Tallinn påpegede, at løsningen ikke er at designe AI-våben, der er mere pålidelige. Han forklarede, at "selv når autonome våben bliver i stand til at skelne perfekt mellem mennesker, vil de gøre det betydeligt lettere at udføre folkemord og målrettede drab, der søger specifikke menneskelige egenskaber."

I en endelig erklæring, som skal sendes til FN's generalsekretær, bekræfter gruppen sit "stærke engagement i at arbejde hurtigt og sammen med alle interesserede interessenter for et internationalt juridisk instrument til regulering af autonome våbensystemer".

Udtalelsen tilføjede: "Vi har et ansvar for at handle og indføre de regler, vi har brug for til at beskytte menneskeheden ... Menneskelig kontrol skal være fremherskende i brugen af magt."

Mere end 115 FN-medlemslande er enige om behovet for bindende regler for AWS, men at undgå et veto fra Rusland, Kina eller USA er ikke nok. US virker usandsynligt.

Anthony Aguirre, kosmolog og medstifter af Future Life Institute, opsummerede situationen ved at sige: "Fremtiden for slagteribots er her."

Deltag i fremtiden


TILMELD DIG I DAG

Klar, kortfattet, omfattende. Få styr på AI-udviklingen med DailyAI

Eugene van der Watt

Eugene har en baggrund som elektronikingeniør og elsker alt, hvad der har med teknologi at gøre. Når han tager en pause fra at læse AI-nyheder, kan du finde ham ved snookerbordet.

×
 
 

GRATIS PDF EKSKLUSIVT
Vær på forkant med DailyAI


 

Tilmeld dig vores ugentlige nyhedsbrev og få eksklusiv adgang til DailyAI's seneste e-bog: 'Mastering AI Tools: Din 2024-guide til forbedret produktivitet'.



 
 

*Ved at tilmelde dig vores nyhedsbrev accepterer du vores Politik for beskyttelse af personlige oplysninger og vores Vilkår og betingelser