{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"AI op het slagveld: wie is verantwoordelijk als het fout gaat?"},"content":{"rendered":"

In een wereld waar \"oorlogsspellen\" niet langer alleen naar bordspellen of videospellen verwijzen, maar naar scenario's op leven en dood die mogelijk worden gemaakt door machine-intelligentie, is de kwestie van verantwoordelijkheid monumentaal.<\/strong><\/p>\n

Militairen voeren hun onderzoek naar en investeringen in AI op. <\/span><\/p>\n

Sommige analisten definieerden een 11-daagse ontmoeting tussen Isra\u00ebl en Palestina van 2021 als de eerste \"AI-oorlog<\/a>waar Isra\u00eblische technologie\u00ebn hielpen bij inlichtingen over en inzet op het slagveld. <\/span><\/p>\n

In de afgelopen maanden,<\/span>\u00a0t<\/span>et Amerikaanse leger heeft een <\/span>taakgroep generatieve AI<\/span><\/a> en testte met succes een <\/span>autonoom vliegtuig met AI<\/span><\/a>.<\/span><\/p>\n

De toenemende rol van AI in oorlogsvoering brengt een reeks complexe juridische en ethische dilemma's met zich mee waar we nog geen antwoord op hebben, zelfs ondanks het feit dat er op dit moment militaire AI-technologie wordt ingezet. <\/span><\/p>\n

Wie is verantwoordelijk als AI fout gaat?<\/span><\/h2>\n

Fabrikant van militaire technologie Rafael's \"Vuurwever<\/a>\" lokaliseert vijandelijke posities met behulp van sensoren en stelt de best geplaatste eenheid voor om op hen te vuren.\u00a0<\/span><\/p>\n

In de beschrijving van het product staat: \"Fire Weaver berekent de Rules of Engagement en stuurt het richten en vuren, waarbij voor elk doel de meest geschikte schutter wordt gebruikt\". <\/span><\/p>\n

\"Berekent\" is hier het sleutelwoord.\u00a0<\/span>AI-wapens kunnen de beslissing om een doelwit te vernietigen terugbrengen tot een binaire ja\/nee beslissing, dus wat als Fire Weaver een kind aanziet voor een vijandelijke soldaat? Of een humanitaire hulptruck in plaats van een vijandelijk voertuig?<\/span><\/p>\n

Op dit moment is het gebrek aan morele, ethische en juridische duidelijkheid schrijnend. AI bevindt zich in een juridisch en ethisch vacu\u00fcm en dat kan nog wel even zo blijven, want het maken van wetten is notoir traag - en zelden wordt het geconfronteerd met zo'n snel evoluerende technologie.\u00a0<\/span><\/p>\n

In de bredere samenleving zijn er al veel voorbeelden van AI die mensen en hun rechten in gevaar brengt. Deze geven een kijkje in de leemte in de wetgeving en ethiek die is ontstaan door AI en de verschillende toepassingen ervan.\u00a0<\/span><\/p>\n

Bijvoorbeeld, <\/span>ChatGPT vermeend<\/span><\/a> Een man uit Georgia, Mark Walters, werd schuldig bevonden aan bedrijfsverduistering en beschuldigde professor in de rechten Jonathan Turley van aanranding. ChatGPT was vals in beide gevallen.<\/span><\/p>\n

Op dezelfde manier hebben Getty Images en verschillende artiesten, auteurs en andere ontwerpers rechtszaken over auteursrecht<\/a> tegen techbedrijven voor het gebruik van trainingsgegevens om hun modellen te bouwen.\u00a0<\/span><\/p>\n

Trainingsgegevens worden vaak verzameld van derden, zoals Common Crawl, en 'schaduwbibliotheken' zoals Bibliotik, vergelijkbaar met torrentsites zoals PirateBay.\u00a0<\/span><\/p>\n

Wie is er in dat geval aansprakelijk voor schending van het auteursrecht? De AI-ontwikkelaars of de uitgevers van datasets? Het is een cartooneske cirkel van verantwoordelijkheid waarbij elke potenti\u00eble schuldige wijst naar degenen naast hem en uiteindelijk ontsnapt iedereen aan de schuld.\u00a0<\/span><\/p>\n

Dit wazige ethische landschap is veel riskanter in de context van AI-wapens en algoritmische militaire tactieken, waar de berekeningen van een model letterlijk leven of dood kunnen bepalen.\u00a0<\/span><\/p>\n

Militaire organisaties zijn zich al bewust van de paradigmaverschuiving die AI-wapens met zich meebrengen. Volgens het Ministerie van Defensie (DoD) is de eerste van zijn vijf \"<\/span>ethische principes voor kunstmatige intelligentie<\/span><\/a>\" voor militair gebruik is \"Verantwoordelijk\", gedefinieerd als: \"DoD-personeel zal gepaste niveaus van oordeelsvorming en zorgvuldigheid in acht nemen, terwijl het verantwoordelijk blijft voor de ontwikkeling, de inzet en het gebruik van AI-mogelijkheden\".<\/span><\/p>\n

Dit betekent dat een mens uiteindelijk verantwoordelijk moet zijn voor de acties van de machine. Het leger heeft altijd vertrouwd op het principe dat iemand - meestal de commandant of een soldaat - verantwoordelijk moet worden gehouden voor acties tijdens oorlogsvoering. Toch wordt de rol van AI in het besluitvormingsproces steeds onduidelijker.\u00a0<\/span><\/p>\n

De eerste vraag is of het indrukken van de \"Goedkeuren\"-knop gelijk staat aan verwijtbaarheid, nu AI steeds geavanceerdere taken krijgt op het gebied van targeting, surveillance en andere gebieden.\u00a0<\/span><\/p>\n

Als de voorspellingen van AI bijvoorbeeld zouden falen, met burgerslachtoffers tot gevolg, is het twijfelachtig of iemand zou accepteren dat 'de machine' als enige schuld krijgt aan een ongeluk.\u00a0<\/span><\/p>\n

Op hun beurt kunnen er situaties zijn waarin mensen ten onrechte de schuld krijgen van hun rol in een ongeluk waar ze geen bijdrage aan hebben geleverd, wat antropoloog M.C. Elish beschrijft als een \".<\/span>morele kreukelzone<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Elish's onderzoek naar industri\u00eble en machine-gebaseerde ongelukken suggereert dat mensen de neiging hebben om de schuld op zich te nemen bij elk ongeluk, zelfs als de fout ligt bij de machine, het algoritme of de besluitvormer die de technologie in eerste instantie goedkeurde.\u00a0<\/span><\/p>\n

Ze baseert zich op verschillende voorbeelden uit de praktijk, zoals een nucleair ongeluk op Three Mile Island in Pennsylvania en de crash van vlucht 447 van Air France, die grotendeels werden toegeschreven aan 'menselijke fouten' in plaats van een meer ingewikkelde reeks storingen verspreid over meerdere personen en systemen.\u00a0<\/span><\/p>\n

Elish zegt over verantwoordelijkheid in het tijdperk van AI: \"Met betrekking tot autonome en robotachtige technologie\u00ebn zijn de regels, wetten en normen nog in ontwikkeling en kunnen ze bijzonder gevoelig zijn voor onzekerheden of zelfs ontwijkingen van verantwoordelijkheid.\"<\/span><\/p>\n

Dit roept ook vragen op over de rol van democratische processen in oorlogvoering en de soevereiniteit van menselijke besluitvorming. Toen de Vietnamoorlog werd uitgezonden in huiskamers in heel Amerika, be\u00efnvloedde de directheid van de tol die de oorlog eiste de publieke opinie en het beleid.\u00a0<\/span><\/p>\n

AI-geassisteerde strijd zou daarentegen de maatschappelijke checks and balances uit het publieke sentiment en het democratische discours kunnen verwijderen.<\/span><\/p>\n

Ethicus en filosoof Thomas Metzinger benadrukt dat ethische normen niet alleen juridische constructies zijn, maar sociale constructies die voortkomen uit democratische processen. <\/span><\/p>\n

Als algoritmes de beslissingen nemen, wordt menselijke betrokkenheid - en dus morele verantwoordelijkheid - diffuus en overbodig.\u00a0<\/span><\/p>\n

Internationale juridische implicaties van AI in oorlogsvoering<\/span><\/h2>\n

Een van de pijlers van de Conventie van Gen\u00e8ve is het \"onderscheid\"-principe, dat het maken van onderscheid tussen strijders en burgers voorschrijft.\u00a0<\/span><\/p>\n

Technologie heeft al bewezen de beloften van een betere bescherming van burgers niet waar te maken: volgens uitgelekte documenten van de Amerikaanse drone-aanvallen tijdens het presidentschap van Obama waren slechts 10% van de mensen die gedood werden bij Amerikaanse drone-aanvallen het beoogde doelwit. <\/span>De onderschepping<\/span><\/a>.\u00a0<\/span><\/p>\n

AI-algoritmen zijn slechts zo goed als de gegevens waarop ze getraind zijn en de regels die ze moeten volgen. In oorlogsvoering kan een algoritme gegevens verkeerd interpreteren door oorlogsmist, gebrekkige trainingsgegevens of opzettelijk misleidende vijandelijke tactieken.\u00a0<\/span><\/p>\n

Het Internationale Comit\u00e9 van het Rode Kruis (ICRC) is begonnen met discussies over de legaliteit van autonome wapensystemen onder het bestaande internationale humanitaire recht, maar er zijn weinig concrete definities.\u00a0<\/span><\/p>\n

Ze stellen vast dat de bestaande kaders niet geschikt zijn voor de nieuwe uitdagingen van AI, en de <\/span>ICRC's voorgestelde principes<\/span><\/a> zijn vaag; bijvoorbeeld: \"Onvoorspelbare autonome wapensystemen moeten uitdrukkelijk worden uitgesloten.\" <\/span><\/p>\n

Waar leggen we de grens voor 'onvoorspelbaar' als \u00e9\u00e9n minuscuul foutje rampzalig kan zijn?<\/span><\/p>\n