AI staat voor 'Oppenheimer-moment' in wapenwedloop tegen dodelijke robots

1 mei 2024
  • Een internationale conferentie in Wenen debatteerde over de noodzaak om autonome AI-wapens te reguleren
  • Volgens de Oostenrijkse minister van Buitenlandse Zaken Alexander Schallenberg staat de wereld voor een "Oppenheimer-moment".
  • AI wordt al gebruikt in oorlogen in Israël en Oekraïne bij gebrek aan regelgeving voor deze technologie.

Tijdens de internationale conferentie "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" in Wenen werden oproepen gedaan om het gebruik van AI in autonome wapensystemen (AWS) te reguleren terwijl de technologie nog in de kinderschoenen staat.

Door de eeuwen heen hebben technologische ontwikkelingen dramatische veranderingen teweeggebracht in de manier waarop oorlogen worden gevoerd. Ontwikkelingen zoals staal, buskruit en uiteindelijk de atoombom vonden allemaal hun eerste toepassing in oorlogsvoering voordat ze hun weg vonden naar civiele toepassingen.

AI heeft in dit opzicht de trend omgebogen. De eerste toepassingen waren voornamelijk in commerciële toepassingen, maar defensiekorpsen hebben al snel het potentieel van AI gezien om het slagveld opnieuw te transformeren.

Verwijzend naar de eerste atoombom vertelde de Oostenrijkse minister van Buitenlandse Zaken Alexander Schallenberg de aanwezigen uit 143 landen dat de wereld voor een "Oppenheimer-moment" staat bij de beslissing of en hoe AI moet worden gebruikt in autonome wapens.

De aanleiding voor de dringende behoefte aan regelgeving was niet alleen het anticiperen op potentiële toekomstige bedreigingen, maar ook als reactie op het gebruik van AI in huidige conflicten.

Autonome drones worden door beide partijen gebruikt in de oorlog in Oekraïne. Israëlische strijdkrachten gebruiken AI in meerdere defensietoepassingen, waaronder naar verluidt het gebruik van AI om menselijke doelwitten te identificeren in de oorlog in Gaza.

Schallenberg zei: "Autonome wapensystemen zullen binnenkort de slagvelden van de wereld vullen," en waarschuwde dat "het nu tijd is om het eens te worden over internationale regels en normen om menselijke controle te garanderen".

Hij drong aan op de noodzaak om de autonomie van AI-wapens te beperken en zei: "Laten we er tenminste voor zorgen dat de meest diepgaande en ingrijpende beslissing - wie leeft en wie sterft - in de handen van mensen blijft en niet in die van machines."

In een verklaring van de Oostenrijkse regering staat: "Autonome wapensystemen (AWS) roepen diepgaande vragen op vanuit juridisch, ethisch, humanitair en veiligheidsperspectief. De mensheid staat op een kruispunt en moet samen de fundamentele uitdaging aangaan om deze wapens te reguleren."

Defensiedollars vs menselijkheid

Voortdurende conflicten hebben de defensiebudgetten wereldwijd doen stijgen, waardoor de aandelenkoersen van verschillende landen zijn gestegen. AI-gestuurde defensie-technologiebedrijven in reactie. AWS-technologieën kunnen te lucratief zijn om te verbieden.

Jaan Tallinn, een vroege investeerder in Google's DeepMind Technologies zei dat "de stimulansen van Silicon Valley misschien niet zijn afgestemd op de rest van de mensheid".

In zijn thematoespraak op de conferentie zei Tallinn: "Ik smeek u om op uw hoede te zijn voor degenen die precisie en voorspelbaarheid beloven in systemen die gebruik maken van AI. We hebben al gezien dat AI selectiefouten maakt op zowel grote als kleine manieren - van het verkeerd herkennen van het kale hoofd van een scheidsrechter als een voetbal, tot doden onder voetgangers veroorzaakt door zelfrijdende auto's die niet in staat zijn om het oversteken van een voetganger te herkennen."

"We moeten extreem voorzichtig zijn met het vertrouwen op de nauwkeurigheid van deze systemen, zowel in de militaire als in de civiele sector. Onopzettelijke fouten veroorzaakt door autonome wapens kunnen het soort oorlogen ontketenen dat nooit gevoerd zou mogen worden."

Tallinn wees erop dat het ontwerpen van AI-wapens die betrouwbaarder zijn niet de oplossing is. Hij legde uit dat, "zelfs als autonome wapens in staat zijn om perfect onderscheid te maken tussen mensen, ze het aanzienlijk makkelijker zullen maken om genocides en gerichte moorden uit te voeren die op zoek zijn naar specifieke menselijke kenmerken."

In een slotverklaring die naar de Secretaris-Generaal van de VN wordt gestuurd, bevestigt de groep zijn "sterke betrokkenheid om met spoed en met alle belanghebbenden te werken aan een internationaal juridisch instrument om autonome wapensystemen te reguleren".

De verklaring voegde eraan toe: "We hebben de verantwoordelijkheid om te handelen en om de regels in te voeren die we nodig hebben om de mensheid te beschermen... Menselijke beheersing moet de overhand hebben bij het gebruik van geweld."

Meer dan 115 VN-lidstaten zijn het eens over de noodzaak van bindende regelgeving voor AWS, maar het omzeilen van een veto van Rusland, China of de US lijkt onwaarschijnlijk.

Anthony Aguirre, kosmoloog en medeoprichter van het Future Life Institute, vatte de situatie samen door te zeggen: "De toekomst van slachtbots is hier."

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×
 
 

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI


 

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.



 
 

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden