AI står overfor et "Oppenheimer-øyeblikk" i våpenkappløpet med drapsroboter

1. mai 2024
  • En internasjonal konferanse i Wien diskuterte behovet for å regulere autonome AI-våpen
  • Østerrikes utenriksminister Alexander Schallenberg sa at verden står overfor et "Oppenheimer-øyeblikk"
  • AI brukes allerede i kriger i Israel og Ukraina i mangel av reguleringer av teknologien

På den internasjonale konferansen "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien ble det tatt til orde for å regulere bruken av kunstig intelligens i autonome våpensystemer (AWS) mens teknologien ennå er i sin spede begynnelse.

Gjennom århundrer har teknologiske fremskritt ført til dramatiske endringer i hvordan kriger utkjempes. Utviklinger som stål, krutt og til slutt atombomben ble først brukt i krigføring, før de fant veien til sivile anvendelser.

AI har gått mot strømmen i så måte. De første bruksområdene har i stor grad vært kommersielle, men forsvarsstyrkene har raskt sett potensialet for at AI kan endre slagmarken igjen.

Med henvisning til den første atombomben sa den østerrikske utenriksministeren Alexander Schallenberg til deltakerne fra 143 land at verden står overfor et "Oppenheimer-øyeblikk" når det skal avgjøres om og hvordan kunstig intelligens skal brukes i autonome våpen.

Drivkraften bak det presserende behovet for reguleringer var ikke bare forventningen om potensielle fremtidige trusler, men også bruken av kunstig intelligens i dagens konflikter.

Autonome droner brukes av begge sider i krigen i Ukraina. Israelske styrker bruker kunstig intelligens i flere forsvarsapplikasjoner, blant annet til å identifisere menneskelige mål i krigen i Gaza.

Schallenberg sa at "autonome våpensystemer snart vil fylle verdens slagmarker", og advarte om at det nå var "på tide å bli enige om internasjonale regler og normer for å sikre menneskelig kontroll".

Han oppfordret til å begrense autonomien til AI-våpen og sa: "La oss i det minste sørge for at den mest dyptgripende og vidtrekkende avgjørelsen - hvem som lever og hvem som dør - forblir i hendene på mennesker og ikke på maskiner."

I en uttalelse fra den østerrikske regjeringen heter det: "Autonome våpensystemer (AWS) reiser dyptgripende spørsmål fra et juridisk, etisk, humanitært og sikkerhetsmessig perspektiv. Menneskeheten står ved et veiskille og må komme sammen for å løse den grunnleggende utfordringen med å regulere disse våpnene."

Forsvarskroner mot menneskeheten

Pågående konflikter har ført til at forsvarsbudsjettene har økt globalt, og aksjekursene i flere AI-drevne forsvarsteknologiselskaper økende respons. AWS-teknologier kan være for lukrative til å forby.

Jaan Tallinn, en av Googles tidlige investorer DeepMind Technologies sa at "Silicon Valleys insentiver kanskje ikke er på linje med resten av menneskehetens."

I sin hovedtale på konferansen, sa Tallinn: "Jeg ber dere om å være på vakt mot dem som lover presisjon og forutsigbarhet i systemer som bruker kunstig intelligens. Vi har allerede sett at kunstig intelligens gjør seleksjonsfeil i både stort og smått - fra å feilaktig gjenkjenne en dommers skallede hode som en fotball, til dødsfall blant fotgjengere forårsaket av selvkjørende biler som ikke er i stand til å gjenkjenne en fotgjenger som går mot rødt."

"Vi må være ekstremt forsiktige med å stole på nøyaktigheten til disse systemene, enten det er i militær eller sivil sektor. Utilsiktede feil forårsaket av autonome våpen har potensial til å utløse kriger som aldri burde utkjempes."

Tallinn påpekte at løsningen ikke er å utvikle AI-våpen som er mer pålitelige. Han forklarte at "selv når autonome våpen blir i stand til å skille perfekt mellom mennesker, vil de gjøre det betydelig lettere å utføre folkemord og målrettede drap som søker spesifikke menneskelige egenskaper."

I en slutterklæring som skal sendes til FNs generalsekretær, bekrefter gruppen sin "sterke forpliktelse til å arbeide raskt og sammen med alle interesserte aktører for å få på plass et internasjonalt juridisk instrument for å regulere autonome våpensystemer".

I uttalelsen heter det videre: "Vi har et ansvar for å handle og for å få på plass de reglene vi trenger for å beskytte menneskeheten ... Menneskelig kontroll må ha forrang når det gjelder bruk av makt."

Mer enn 115 av FNs medlemsland er enige om behovet for et bindende regelverk for AWS, men for å unngå veto fra Russland, Kina eller US virker usannsynlig.

Anthony Aguirre, kosmolog og medstifter av Future Life Institute, oppsummerte situasjonen ved å si: "Fremtiden for slakteroboter er her."

Bli med i fremtiden


ABONNER I DAG

Tydelig, kortfattet og omfattende. Få et grep om AI-utviklingen med DagligAI

Eugene van der Watt

Eugene har bakgrunn som elektroingeniør og elsker alt som har med teknologi å gjøre. Når han tar en pause fra AI-nyhetene, finner du ham ved snookerbordet.

×

GRATIS PDF EKSKLUSIV
Hold deg i forkant med DailyAI

Meld deg på vårt ukentlige nyhetsbrev og få eksklusiv tilgang til DailyAIs nyeste e-bok: "Mastering AI Tools: Din 2024-guide til økt produktivitet".

*Ved å abonnere på vårt nyhetsbrev aksepterer du vår Retningslinjer for personvern og vår Vilkår og betingelser