På den internasjonale konferansen "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien ble det tatt til orde for å regulere bruken av kunstig intelligens i autonome våpensystemer (AWS) mens teknologien ennå er i sin spede begynnelse.
Gjennom århundrer har teknologiske fremskritt ført til dramatiske endringer i hvordan kriger utkjempes. Utviklinger som stål, krutt og til slutt atombomben ble først brukt i krigføring, før de fant veien til sivile anvendelser.
AI har gått mot strømmen i så måte. De første bruksområdene har i stor grad vært kommersielle, men forsvarsstyrkene har raskt sett potensialet for at AI kan endre slagmarken igjen.
Med henvisning til den første atombomben sa den østerrikske utenriksministeren Alexander Schallenberg til deltakerne fra 143 land at verden står overfor et "Oppenheimer-øyeblikk" når det skal avgjøres om og hvordan kunstig intelligens skal brukes i autonome våpen.
Menneskeheten står ved en korsvei: Autonome våpensystemer vil snart fylle verdens slagmarker. Vi må ta grep og bli enige om internasjonale regler for å sikre at beslutninger om liv og død aldri blir tatt av maskiner!
➡️ Avspark #AWS2024Wien med over 900 gjester fra 142 stater pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29. april 2024
Drivkraften bak det presserende behovet for reguleringer var ikke bare forventningen om potensielle fremtidige trusler, men også bruken av kunstig intelligens i dagens konflikter.
Autonome droner brukes av begge sider i krigen i Ukraina. Israelske styrker bruker kunstig intelligens i flere forsvarsapplikasjoner, blant annet til å identifisere menneskelige mål i krigen i Gaza.
Schallenberg sa at "autonome våpensystemer snart vil fylle verdens slagmarker", og advarte om at det nå var "på tide å bli enige om internasjonale regler og normer for å sikre menneskelig kontroll".
Han oppfordret til å begrense autonomien til AI-våpen og sa: "La oss i det minste sørge for at den mest dyptgripende og vidtrekkende avgjørelsen - hvem som lever og hvem som dør - forblir i hendene på mennesker og ikke på maskiner."
I en uttalelse fra den østerrikske regjeringen heter det: "Autonome våpensystemer (AWS) reiser dyptgripende spørsmål fra et juridisk, etisk, humanitært og sikkerhetsmessig perspektiv. Menneskeheten står ved et veiskille og må komme sammen for å løse den grunnleggende utfordringen med å regulere disse våpnene."
Forsvarskroner mot menneskeheten
Pågående konflikter har ført til at forsvarsbudsjettene har økt globalt, og aksjekursene i flere AI-drevne forsvarsteknologiselskaper økende respons. AWS-teknologier kan være for lukrative til å forby.
Jaan Tallinn, en av Googles tidlige investorer DeepMind Technologies sa at "Silicon Valleys insentiver kanskje ikke er på linje med resten av menneskehetens."
I sin hovedtale på konferansen, sa Tallinn: "Jeg ber dere om å være på vakt mot dem som lover presisjon og forutsigbarhet i systemer som bruker kunstig intelligens. Vi har allerede sett at kunstig intelligens gjør seleksjonsfeil i både stort og smått - fra å feilaktig gjenkjenne en dommers skallede hode som en fotball, til dødsfall blant fotgjengere forårsaket av selvkjørende biler som ikke er i stand til å gjenkjenne en fotgjenger som går mot rødt."
"Vi må være ekstremt forsiktige med å stole på nøyaktigheten til disse systemene, enten det er i militær eller sivil sektor. Utilsiktede feil forårsaket av autonome våpen har potensial til å utløse kriger som aldri burde utkjempes."
Tallinn påpekte at løsningen ikke er å utvikle AI-våpen som er mer pålitelige. Han forklarte at "selv når autonome våpen blir i stand til å skille perfekt mellom mennesker, vil de gjøre det betydelig lettere å utføre folkemord og målrettede drap som søker spesifikke menneskelige egenskaper."
"Det krever mot og fremsyn å ta steget ut av et våpenkappløp. Vi har gjort det før, og vi kan gjøre det igjen."
Fra åpningen av forhandlingene på den historiske Wien-konferansen om autonome våpen #AWS2024 i går, her er hele FLI-grunnlegger Jaan Tallinns hovedtale ⬇️ pic.twitter.com/wFYxWpDl1S
- Future of Life Institute (@FLI_org) 30. april 2024
I en slutterklæring som skal sendes til FNs generalsekretær, bekrefter gruppen sin "sterke forpliktelse til å arbeide raskt og sammen med alle interesserte aktører for å få på plass et internasjonalt juridisk instrument for å regulere autonome våpensystemer".
I uttalelsen heter det videre: "Vi har et ansvar for å handle og for å få på plass de reglene vi trenger for å beskytte menneskeheten ... Menneskelig kontroll må ha forrang når det gjelder bruk av makt."
Mer enn 115 av FNs medlemsland er enige om behovet for et bindende regelverk for AWS, men for å unngå veto fra Russland, Kina eller US virker usannsynlig.
Anthony Aguirre, kosmolog og medstifter av Future Life Institute, oppsummerte situasjonen ved å si: "Fremtiden for slakteroboter er her."
