{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"IA sul campo di battaglia: chi \u00e8 responsabile se va male?"},"content":{"rendered":"

In un mondo in cui i \"giochi di guerra\" non si riferiscono pi\u00f9 solo a giochi da tavolo o videogiochi, ma a scenari di vita e di morte facilitati dall'intelligenza artificiale, la questione della responsabilit\u00e0 \u00e8 monumentale.<\/strong><\/p>\n

Le forze armate stanno incrementando la ricerca e gli investimenti nell'IA. <\/span><\/p>\n

Alcuni analisti hanno definito l'incontro israelo-palestinese del 2021, durato 11 giorni, come il primo \"Guerra di intelligenza artificiale<\/a>dove le tecnologie israeliane hanno assistito l'intelligence e il dispiegamento sul campo di battaglia. <\/span><\/p>\n

Negli ultimi mesi,<\/span>\u00a0t<\/span>e forze armate statunitensi hanno istituito un <\/span>task force sull'IA generativa<\/span><\/a> e ha testato con successo un <\/span>jet autonomo alimentato dall'intelligenza artificiale<\/span><\/a>.<\/span><\/p>\n

Il ruolo crescente dell'IA in guerra presenta una serie di complessi dilemmi legali ed etici a cui non abbiamo ancora risposto, anche se la tecnologia militare alimentata dall'IA \u00e8 in fase di implementazione proprio in questo momento. <\/span><\/p>\n

Chi \u00e8 responsabile quando l'IA va male?<\/span><\/h2>\n

Il produttore di tecnologia militare Rafael \"Tessitore di fuoco<\/a>\" localizza le posizioni del nemico utilizzando i sensori e suggerisce l'unit\u00e0 meglio posizionata per fare fuoco su di esso.\u00a0<\/span><\/p>\n

Nella descrizione del prodotto si legge: \"Fire Weaver calcola le regole di ingaggio e dirige il puntamento e il fuoco, utilizzando il tiratore pi\u00f9 appropriato per ogni bersaglio acquisito\". <\/span><\/p>\n

\"Calcola\" \u00e8 la parola chiave in questo caso.\u00a0<\/span>Le armi dell'intelligenza artificiale possono ridurre la decisione di distruggere un bersaglio a una decisione binaria s\u00ec\/no, ma cosa succede se Fire Weaver scambia un bambino per un soldato nemico? O un camion di aiuti umanitari invece di un veicolo nemico?<\/span><\/p>\n

Attualmente, la mancanza di chiarezza morale, etica e legale \u00e8 evidente. L'IA occupa un vuoto giuridico ed etico che potrebbe durare ancora per un po' di tempo, dato che l'attivit\u00e0 legislativa \u00e8 notoriamente lenta e raramente si scontra con una tecnologia in cos\u00ec rapida evoluzione.\u00a0<\/span><\/p>\n

Nella societ\u00e0 in generale, ci sono gi\u00e0 molti esempi di IA che compromettono le persone e i loro diritti. Questi esempi danno un'idea del vuoto legislativo ed etico creato dall'IA e dai suoi vari usi.\u00a0<\/span><\/p>\n

Per esempio, <\/span>ChatGPT presunto<\/span><\/a> un uomo della Georgia, Mark Walters, \u00e8 stato giudicato colpevole di appropriazione indebita aziendale e ha accusato il professore di legge Jonathan Turley di violenza sessuale. Il ChatGPT era falso in entrambi i casi.<\/span><\/p>\n

Allo stesso modo, Getty Images e diversi artisti, autori e altri creatori hanno lanciato cause legali per il diritto d'autore<\/a> contro le aziende tecnologiche per l'utilizzo di dati di formazione per costruire i loro modelli.\u00a0<\/span><\/p>\n

I dati di addestramento sono spesso raccolti da terze parti, come Common Crawl, e da \"biblioteche ombra\" come Bibliotik, simili a siti di torrent come PirateBay.\u00a0<\/span><\/p>\n

In questo caso, chi \u00e8 responsabile della violazione del copyright? Gli sviluppatori dell'intelligenza artificiale o gli editori dei set di dati? \u00c8 un cerchio di responsabilit\u00e0 da cartone animato, in cui ogni potenziale colpevole indica chi gli sta accanto e, alla fine, tutti sfuggono alla colpa.\u00a0<\/span><\/p>\n

Questo nebuloso panorama etico \u00e8 molto pi\u00f9 rischioso nel contesto delle armi AI e delle tattiche militari algoritmiche, dove i calcoli di un modello potrebbero letteralmente determinare la vita o la morte.\u00a0<\/span><\/p>\n

Le organizzazioni militari sono gi\u00e0 consapevoli del cambiamento di paradigma rappresentato dalle armi AI. Secondo il Dipartimento della Difesa (DoD), il primo dei suoi cinque \"<\/span>principi etici per l'intelligenza artificiale<\/span><\/a>\"Per gli usi militari \u00e8 \"responsabile\", definito come \"il personale del Dipartimento della Difesa eserciter\u00e0 livelli appropriati di giudizio e attenzione, pur rimanendo responsabile dello sviluppo, dell'impiego e dell'uso delle capacit\u00e0 di IA\".<\/span><\/p>\n

Ci\u00f2 significa che un uomo deve essere responsabile delle azioni della macchina. Le forze armate si sono sempre basate sul principio che qualcuno - in genere il comandante o un soldato - deve essere ritenuto responsabile delle azioni intraprese in guerra. Tuttavia, il ruolo dell'IA nel processo decisionale \u00e8 sempre pi\u00f9 oscuro.\u00a0<\/span><\/p>\n

La prima domanda \u00e8: dato che l'IA assume ruoli sempre pi\u00f9 sofisticati nel targeting, nella sorveglianza e in altre aree, premere il pulsante \"Approva\" equivale a essere colpevoli?\u00a0<\/span><\/p>\n

Se le previsioni dell'IA fallissero, ad esempio, causando vittime tra i civili, non \u00e8 certo che qualcuno accetterebbe che \"la macchina\" sia l'unica responsabile di un incidente.\u00a0<\/span><\/p>\n

A loro volta, possono verificarsi situazioni in cui gli esseri umani vengono ingiustamente incolpati per il loro ruolo in un incidente a cui non hanno contribuito, cosa che l'antropologo M.C. Elish descrive come una \"<\/span>zona di accartocciamento morale<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Le ricerche di Elish sugli incidenti industriali e di macchine suggeriscono che gli esseri umani tendono ad assorbire la colpa in ogni incidente, anche se la colpa \u00e8 della macchina, dell'algoritmo o del decisore che ha approvato la tecnologia in primo luogo.\u00a0<\/span><\/p>\n

L'autrice si basa su diversi esempi reali, come l'incidente nucleare di Three Mile Island, in Pennsylvania, e l'incidente del volo Air France 447, che sono stati in gran parte attribuiti a un \"errore umano\" piuttosto che a una serie pi\u00f9 intricata di guasti distribuiti tra pi\u00f9 individui e sistemi.\u00a0<\/span><\/p>\n

In merito alla responsabilit\u00e0 nell'era dell'IA, Elish afferma: \"Per quanto riguarda le tecnologie autonome e robotiche, i regolamenti, le leggi e le norme sono ancora in fase di formazione e possono essere particolarmente suscettibili di incertezze o addirittura di elusioni della responsabilit\u00e0\".<\/span><\/p>\n

Ci\u00f2 solleva anche questioni relative al ruolo dei processi democratici in guerra e alla sovranit\u00e0 del processo decisionale umano. Quando la guerra del Vietnam \u00e8 stata trasmessa nei salotti di tutta l'America, l'immediatezza del tributo della guerra ha avuto un impatto sull'opinione pubblica e sulla politica.\u00a0<\/span><\/p>\n

Al contrario, il combattimento assistito dall'IA potrebbe eliminare i controlli e gli equilibri sociali dal sentimento pubblico e dal discorso democratico.<\/span><\/p>\n

L'etico e filosofo Thomas Metzinger sottolinea che le norme etiche non sono solo costruzioni legali, ma anche sociali che nascono dai processi democratici. <\/span><\/p>\n

Se sono gli algoritmi a prendere le decisioni, il coinvolgimento umano - e quindi la responsabilit\u00e0 morale - diventa diffuso e ridondante.\u00a0<\/span><\/p>\n

Implicazioni legali internazionali dell'IA in guerra<\/span><\/h2>\n

Uno dei pilastri della Convenzione di Ginevra \u00e8 il principio della \"distinzione\", che impone di distinguere tra combattenti e civili.\u00a0<\/span><\/p>\n

La tecnologia ha gi\u00e0 dimostrato di non essere in grado di mantenere le promesse di una maggiore protezione dei civili: solo 10% delle persone uccise negli attacchi dei droni statunitensi durante la presidenza Obama erano i bersagli previsti, secondo i documenti trapelati da <\/span>L'intercettazione<\/span><\/a>.\u00a0<\/span><\/p>\n

Gli algoritmi di intelligenza artificiale sono validi quanto i dati su cui vengono addestrati e le regole che sono programmati per seguire. In guerra, un algoritmo potrebbe interpretare male i dati a causa della nebbia di guerra, di dati di addestramento errati o di tattiche nemiche intenzionalmente ingannevoli.\u00a0<\/span><\/p>\n

Il Comitato Internazionale della Croce Rossa (CICR) ha avviato discussioni sulla legalit\u00e0 dei sistemi di armi autonome ai sensi del diritto internazionale umanitario vigente, ma le definizioni concrete sono poche.\u00a0<\/span><\/p>\n

Essi stabiliscono che le strutture esistenti non sono adatte alle nuove sfide poste dall'IA e la <\/span>I principi proposti dal CICR<\/span><\/a> sono vaghi; ad esempio, \"i sistemi d'arma autonomi imprevedibili dovrebbero essere espressamente esclusi\". <\/span><\/p>\n

Dove stabiliamo la soglia di \"imprevedibilit\u00e0\" quando un minuscolo errore potrebbe essere catastrofico?<\/span><\/p>\n