Vid den internationella konferensen "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien framfördes krav på att reglera användningen av AI i autonoma vapensystem (AWS) medan tekniken fortfarande befinner sig i sin linda.
Under århundradenas lopp har tekniska framsteg lett till dramatiska förändringar i hur krig utkämpas. Utvecklingar som stål, krut och så småningom atombomben fann alla sina första tillämpningar i krigföring innan de tog sig in i civila tillämpningar.
AI har gått emot trenden i det här avseendet. De första tillämpningarna har till stor del varit kommersiella, men försvarsmakterna har snabbt insett att AI har potential att förändra slagfältet ännu en gång.
Med hänvisning till den första atombomben berättade Österrikes utrikesminister Alexander Schallenberg för deltagarna från 143 länder att världen står inför ett "Oppenheimer-ögonblick" när det gäller att besluta om och hur AI ska användas i autonoma vapen.
Mänskligheten vid ett vägskäl: Autonoma vapensystem kommer snart att fylla världens slagfält. Vi måste vidta åtgärder och komma överens om internationella regler för att säkerställa att beslut om liv eller död aldrig fattas av maskiner!
➡️ Avspark #AWS2024Wien med 900+ gäster från 142 stater pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29 april 2024
Drivkraften bakom det akuta behovet av regleringar var inte bara förväntan på potentiella framtida hot, utan även en reaktion på AI:s användning i pågående konflikter.
Autonoma drönare används av båda sidor i kriget i Ukraina. Israeliska styrkor använder AI i flera försvarstillämpningar, bland annat påstås AI ha använts för att identifiera mänskliga mål i kriget i Gaza.
"Autonoma vapensystem kommer snart att fylla världens slagfält", sade Schallenberg och varnade för att det nu var "dags att komma överens om internationella regler och normer för att säkerställa mänsklig kontroll".
Han tryckte på behovet av att begränsa AI-vapnens autonomi och sa: "Låt oss åtminstone se till att det mest djupgående och långtgående beslutet - vem som lever och vem som dör - förblir i händerna på människor och inte på maskiner."
I ett uttalande från den österrikiska regeringen heter det: "Autonoma vapensystem (AWS) väcker djupgående frågor ur ett juridiskt, etiskt, humanitärt och säkerhetsmässigt perspektiv. Mänskligheten befinner sig vid ett vägskäl och måste samlas för att ta itu med den grundläggande utmaningen att reglera dessa vapen."
Försvarsdollar vs mänsklighet
Pågående konflikter har lett till att försvarsbudgetarna har ökat globalt, och aktiekurserna för flera AI-drivna teknikföretag inom försvarsområdet ökar i respons. AWS-teknik kan vara alltför lukrativ för att förbjudas.
Jaan Tallinn, en tidig investerare i Googles DeepMind Technologies sa att "Silicon Valleys incitament kanske inte är i linje med resten av mänskligheten".
I sin Huvudanförande På konferensen sa Tallinn: "Jag ber er att vara försiktiga med dem som lovar precision och förutsägbarhet i system som använder AI. Vi har redan sett AI göra urvalsfel i både stort och smått - från att felaktigt känna igen en domares skalliga huvud som en fotboll, till dödsfall bland fotgängare orsakade av självkörande bilar som inte kan känna igen oskyddade trafikanter."
"Vi måste vara extremt försiktiga med att förlita oss på precisionen i dessa system, oavsett om det gäller den militära eller civila sektorn. Oavsiktliga fel som orsakas av autonoma vapen har potential att utlösa den typ av krig som aldrig borde utkämpas."
Tallinn påpekade att lösningen inte är att utforma AI-vapen som är mer tillförlitliga. Han förklarade att "även när autonoma vapen blir kapabla att perfekt skilja mellan människor kommer de att göra det betydligt lättare att genomföra folkmord och riktade mord som söker specifika mänskliga egenskaper."
"Att ta steget ut ur en kapprustning kräver mod och framsynthet. Vi har gjort det förut och vi kan göra det igen."
Från inledningen av förhandlingarna vid den historiska Wienkonferensen om autonoma vapen #AWS2024 igår, här är FLI:s medgrundare Jaan Tallinns fullständiga keynote-tal ⬇️ pic.twitter.com/wFYxWpDl1S
- Institutet för livets framtid (@FLI_org) 30 april 2024
I ett slutligt uttalande som ska skickas till FN:s generalsekreterare bekräftar gruppen sitt "starka engagemang för att skyndsamt och med alla berörda intressenter arbeta för ett internationellt rättsligt instrument för att reglera autonoma vapensystem".
"Vi har ett ansvar att agera och att införa de regler som krävs för att skydda mänskligheten... Mänsklig kontroll måste råda när det gäller att använda våld", heter det i uttalandet.
Mer än 115 av FN:s medlemsländer är överens om behovet av bindande regler för AWS, men för att undvika veto från Ryssland, Kina eller US verkar osannolikt.
Anthony Aguirre, kosmolog och medgrundare av Future Life Institute, sammanfattade situationen med att säga "Slaktrobotarnas framtid är här".
