Tijdens de internationale conferentie "Humanity at the Crossroads: Autonomous Weapons Systems and the Challenge of Regulation" in Wenen werden oproepen gedaan om het gebruik van AI in autonome wapensystemen (AWS) te reguleren terwijl de technologie nog in de kinderschoenen staat.
Door de eeuwen heen hebben technologische ontwikkelingen dramatische veranderingen teweeggebracht in de manier waarop oorlogen worden gevoerd. Ontwikkelingen zoals staal, buskruit en uiteindelijk de atoombom vonden allemaal hun eerste toepassing in oorlogsvoering voordat ze hun weg vonden naar civiele toepassingen.
AI heeft in dit opzicht de trend omgebogen. De eerste toepassingen waren voornamelijk in commerciële toepassingen, maar defensiekorpsen hebben al snel het potentieel van AI gezien om het slagveld opnieuw te transformeren.
Verwijzend naar de eerste atoombom vertelde de Oostenrijkse minister van Buitenlandse Zaken Alexander Schallenberg de aanwezigen uit 143 landen dat de wereld voor een "Oppenheimer-moment" staat bij de beslissing of en hoe AI moet worden gebruikt in autonome wapens.
De mensheid op een tweesprong: Autonome wapensystemen zullen binnenkort de slagvelden van de wereld vullen. We moeten actie ondernemen en overeenstemming bereiken over internationale regels om ervoor te zorgen dat beslissingen over leven of dood nooit door machines worden genomen!
➡️ Aftrap #AWS2024Wenen met meer dan 900 gasten uit 142 staten Pic.twitter.com/AtwumLu4OP
- Alexander Schallenberg (@a_schallenberg) 29 april 2024
De aanleiding voor de dringende behoefte aan regelgeving was niet alleen het anticiperen op potentiële toekomstige bedreigingen, maar ook als reactie op het gebruik van AI in huidige conflicten.
Autonome drones worden door beide partijen gebruikt in de oorlog in Oekraïne. Israëlische strijdkrachten gebruiken AI in meerdere defensietoepassingen, waaronder naar verluidt het gebruik van AI om menselijke doelwitten te identificeren in de oorlog in Gaza.
Schallenberg zei: "Autonome wapensystemen zullen binnenkort de slagvelden van de wereld vullen," en waarschuwde dat "het nu tijd is om het eens te worden over internationale regels en normen om menselijke controle te garanderen".
Hij drong aan op de noodzaak om de autonomie van AI-wapens te beperken en zei: "Laten we er tenminste voor zorgen dat de meest diepgaande en ingrijpende beslissing - wie leeft en wie sterft - in de handen van mensen blijft en niet in die van machines."
In een verklaring van de Oostenrijkse regering staat: "Autonome wapensystemen (AWS) roepen diepgaande vragen op vanuit juridisch, ethisch, humanitair en veiligheidsperspectief. De mensheid staat op een kruispunt en moet samen de fundamentele uitdaging aangaan om deze wapens te reguleren."
Defensiedollars vs menselijkheid
Voortdurende conflicten hebben de defensiebudgetten wereldwijd doen stijgen, waardoor de aandelenkoersen van verschillende landen zijn gestegen. AI-gestuurde defensie-technologiebedrijven in reactie. AWS-technologieën kunnen te lucratief zijn om te verbieden.
Jaan Tallinn, een vroege investeerder in Google's DeepMind Technologies zei dat "de stimulansen van Silicon Valley misschien niet zijn afgestemd op de rest van de mensheid".
In zijn thematoespraak op de conferentie zei Tallinn: "Ik smeek u om op uw hoede te zijn voor degenen die precisie en voorspelbaarheid beloven in systemen die gebruik maken van AI. We hebben al gezien dat AI selectiefouten maakt op zowel grote als kleine manieren - van het verkeerd herkennen van het kale hoofd van een scheidsrechter als een voetbal, tot doden onder voetgangers veroorzaakt door zelfrijdende auto's die niet in staat zijn om het oversteken van een voetganger te herkennen."
"We moeten extreem voorzichtig zijn met het vertrouwen op de nauwkeurigheid van deze systemen, zowel in de militaire als in de civiele sector. Onopzettelijke fouten veroorzaakt door autonome wapens kunnen het soort oorlogen ontketenen dat nooit gevoerd zou mogen worden."
Tallinn wees erop dat het ontwerpen van AI-wapens die betrouwbaarder zijn niet de oplossing is. Hij legde uit dat, "zelfs als autonome wapens in staat zijn om perfect onderscheid te maken tussen mensen, ze het aanzienlijk makkelijker zullen maken om genocides en gerichte moorden uit te voeren die op zoek zijn naar specifieke menselijke kenmerken."
"Uit een wapenwedloop stappen vereist moed en een vooruitziende blik. We hebben het eerder gedaan en we kunnen het opnieuw doen."
Uit de opening van de werkzaamheden van de historische conferentie over autonome wapens in Wenen #AWS2024 gisteren, hier is de volledige keynote speech van FLI medeoprichter Jaan Tallinn ⬇️ pic.twitter.com/wFYxWpDl1S
- Instituut voor de toekomst van het leven (@FLI_org) 30 april 2024
In een slotverklaring die naar de Secretaris-Generaal van de VN wordt gestuurd, bevestigt de groep zijn "sterke betrokkenheid om met spoed en met alle belanghebbenden te werken aan een internationaal juridisch instrument om autonome wapensystemen te reguleren".
De verklaring voegde eraan toe: "We hebben de verantwoordelijkheid om te handelen en om de regels in te voeren die we nodig hebben om de mensheid te beschermen... Menselijke beheersing moet de overhand hebben bij het gebruik van geweld."
Meer dan 115 VN-lidstaten zijn het eens over de noodzaak van bindende regelgeving voor AWS, maar het omzeilen van een veto van Rusland, China of de US lijkt onwaarschijnlijk.
Anthony Aguirre, kosmoloog en medeoprichter van het Future Life Institute, vatte de situatie samen door te zeggen: "De toekomst van slachtbots is hier."
