AI står inför "Oppenheimer-ögonblick" i kapprustning med mördarrobotar

1 maj 2024
  • Vid en internationell konferens i Wien diskuterades behovet av att reglera autonoma AI-vapen
  • Österrikes utrikesminister Alexander Schallenberg sa att världen står inför ett "Oppenheimer-ögonblick"
  • AI används redan i krig i Israel och Ukraina i avsaknad av regleringar av tekniken

Vid den internationella konferensen "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" i Wien framfördes krav på att reglera användningen av AI i autonoma vapensystem (AWS) medan tekniken fortfarande befinner sig i sin linda.

Under århundradenas lopp har tekniska framsteg lett till dramatiska förändringar i hur krig utkämpas. Utvecklingar som stål, krut och så småningom atombomben fann alla sina första tillämpningar i krigföring innan de tog sig in i civila tillämpningar.

AI har gått emot trenden i det här avseendet. De första tillämpningarna har till stor del varit kommersiella, men försvarsmakterna har snabbt insett att AI har potential att förändra slagfältet ännu en gång.

Med hänvisning till den första atombomben berättade Österrikes utrikesminister Alexander Schallenberg för deltagarna från 143 länder att världen står inför ett "Oppenheimer-ögonblick" när det gäller att besluta om och hur AI ska användas i autonoma vapen.

Drivkraften bakom det akuta behovet av regleringar var inte bara förväntan på potentiella framtida hot, utan även en reaktion på AI:s användning i pågående konflikter.

Autonoma drönare används av båda sidor i kriget i Ukraina. Israeliska styrkor använder AI i flera försvarstillämpningar, bland annat påstås AI ha använts för att identifiera mänskliga mål i kriget i Gaza.

"Autonoma vapensystem kommer snart att fylla världens slagfält", sade Schallenberg och varnade för att det nu var "dags att komma överens om internationella regler och normer för att säkerställa mänsklig kontroll".

Han tryckte på behovet av att begränsa AI-vapnens autonomi och sa: "Låt oss åtminstone se till att det mest djupgående och långtgående beslutet - vem som lever och vem som dör - förblir i händerna på människor och inte på maskiner."

I ett uttalande från den österrikiska regeringen heter det: "Autonoma vapensystem (AWS) väcker djupgående frågor ur ett juridiskt, etiskt, humanitärt och säkerhetsmässigt perspektiv. Mänskligheten befinner sig vid ett vägskäl och måste samlas för att ta itu med den grundläggande utmaningen att reglera dessa vapen."

Försvarsdollar vs mänsklighet

Pågående konflikter har lett till att försvarsbudgetarna har ökat globalt, och aktiekurserna för flera AI-drivna teknikföretag inom försvarsområdet ökar i respons. AWS-teknik kan vara alltför lukrativ för att förbjudas.

Jaan Tallinn, en tidig investerare i Googles DeepMind Technologies sa att "Silicon Valleys incitament kanske inte är i linje med resten av mänskligheten".

I sin Huvudanförande På konferensen sa Tallinn: "Jag ber er att vara försiktiga med dem som lovar precision och förutsägbarhet i system som använder AI. Vi har redan sett AI göra urvalsfel i både stort och smått - från att felaktigt känna igen en domares skalliga huvud som en fotboll, till dödsfall bland fotgängare orsakade av självkörande bilar som inte kan känna igen oskyddade trafikanter."

"Vi måste vara extremt försiktiga med att förlita oss på precisionen i dessa system, oavsett om det gäller den militära eller civila sektorn. Oavsiktliga fel som orsakas av autonoma vapen har potential att utlösa den typ av krig som aldrig borde utkämpas."

Tallinn påpekade att lösningen inte är att utforma AI-vapen som är mer tillförlitliga. Han förklarade att "även när autonoma vapen blir kapabla att perfekt skilja mellan människor kommer de att göra det betydligt lättare att genomföra folkmord och riktade mord som söker specifika mänskliga egenskaper."

I ett slutligt uttalande som ska skickas till FN:s generalsekreterare bekräftar gruppen sitt "starka engagemang för att skyndsamt och med alla berörda intressenter arbeta för ett internationellt rättsligt instrument för att reglera autonoma vapensystem".

"Vi har ett ansvar att agera och att införa de regler som krävs för att skydda mänskligheten... Mänsklig kontroll måste råda när det gäller att använda våld", heter det i uttalandet.

Mer än 115 av FN:s medlemsländer är överens om behovet av bindande regler för AWS, men för att undvika veto från Ryssland, Kina eller US verkar osannolikt.

Anthony Aguirre, kosmolog och medgrundare av Future Life Institute, sammanfattade situationen med att säga "Slaktrobotarnas framtid är här".

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Eugene van der Watt

Eugene kommer från en bakgrund som elektronikingenjör och älskar allt som har med teknik att göra. När han tar en paus från att konsumera AI-nyheter hittar du honom vid snookerbordet.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar