{"id":13224,"date":"2024-07-03T21:10:08","date_gmt":"2024-07-03T21:10:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=13224"},"modified":"2024-07-04T18:47:53","modified_gmt":"2024-07-04T18:47:53","slug":"modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/07\/modern-battlefields-have-become-a-breeding-ground-of-experimental-ai-weaponry\/","title":{"rendered":"Les champs de bataille modernes sont devenus un terrain propice \u00e0 l'exp\u00e9rimentation d'armes d'intelligence artificielle."},"content":{"rendered":"

Alors que les conflits font rage en Ukraine et au Moyen-Orient, le champ de bataille moderne est devenu un terrain d'essai pour la guerre assist\u00e9e par ordinateur. <\/strong><\/p>\n

Des drones autonomes aux algorithmes de ciblage pr\u00e9dictif, les syst\u00e8mes d'IA sont en train de remodeler la nature des conflits arm\u00e9s.<\/p>\n

Les \u00c9tats-Unis, l'Ukraine, la Russie, la Chine, Isra\u00ebl et d'autres pays sont engag\u00e9s dans une course \u00e0 l'armement en mati\u00e8re d'IA, chacun rivalisant pour la supr\u00e9matie technologique dans un paysage g\u00e9opolitique de plus en plus instable.<\/p>\n

L'apparition de ces nouvelles armes et tactiques s'accompagne de leurs cons\u00e9quences.<\/p>\n

Nous sommes aujourd'hui confront\u00e9s \u00e0 des questions cruciales concernant l'avenir de la guerre, le contr\u00f4le humain et l'\u00e9thique de l'externalisation des d\u00e9cisions de vie et de mort \u00e0 des machines.<\/p>\n

L'IA pourrait avoir d\u00e9j\u00e0 d\u00e9clench\u00e9 une escalade militaire<\/h2>\n

Retour en 2017, <\/span>Projet Maven<\/span><\/a> repr\u00e9sente le premier effort du Pentagone pour int\u00e9grer l'IA dans les op\u00e9rations militaires. Il vise \u00e0 permettre l'identification et le suivi en temps r\u00e9el de cibles \u00e0 partir de s\u00e9quences film\u00e9es par des drones, sans intervention humaine.<\/span><\/p>\n

Si le projet Maven est souvent \u00e9voqu\u00e9 sous l'angle de l'analyse de s\u00e9quences film\u00e9es par des drones, ses capacit\u00e9s vont sans doute bien au-del\u00e0.<\/p>\n

Selon l'organisme de surveillance \u00e0 but non lucratif La recherche de Tech Inquiry<\/a>En outre, le syst\u00e8me d'IA traite \u00e9galement des donn\u00e9es provenant de satellites, de radars, de m\u00e9dias sociaux et m\u00eame de ressources ennemies captur\u00e9es. Ce large \u00e9ventail de donn\u00e9es est connu sous le nom de \"renseignement toutes sources\".<\/p>\n

En mars 2023, un incident militaire s'est produit lorsqu'un drone am\u00e9ricain MQ-9 Reaper est entr\u00e9 en collision avec un avion de chasse russe au-dessus de la mer Noire, provoquant l'\u00e9crasement du drone.<\/p>\n

Peu avant cet incident, la National Geospatial-Intelligence Agency (NGA) a confirm\u00e9 l'utilisation de la technologie du projet Maven en Ukraine.<\/p>\n

Le lieutenant-g\u00e9n\u00e9ral Christopher T. Donahue, commandant du XVIIIe corps a\u00e9roport\u00e9, plus tard <\/span>a d\u00e9clar\u00e9 sans ambages<\/span><\/a> du conflit entre l'Ukraine et la Russie : \"En fin de compte, c'est devenu notre laboratoire\".<\/span><\/p>\n

Le projet Maven en Ukraine impliquait des syst\u00e8mes d'IA avanc\u00e9s int\u00e9gr\u00e9s dans le radar \u00e0 synth\u00e8se d'ouverture (SAR) Lynx des MQ-9 Reapers. L'IA pourrait donc avoir jou\u00e9 un r\u00f4le dans la collision entre les drones.<\/p>\n

\"Drone\"
Le matin du 14 mars 2023, un chasseur russe Su-27 a intercept\u00e9 et endommag\u00e9 un drone am\u00e9ricain MQ-9 Reaper, qui s'est \u00e9cras\u00e9 dans la mer Noire. Il s'agit de la premi\u00e8re confrontation directe entre les forces a\u00e9riennes russes et am\u00e9ricaines depuis la guerre froide, une escalade significative des tensions militaires entre les deux nations. Source : US Air Force.<\/figcaption><\/figure>\n

Dans la foul\u00e9e, les \u00c9tats-Unis ont convoqu\u00e9 l'ambassadeur russe \u00e0 Washington pour lui faire part de leurs objections, tandis que le commandement europ\u00e9en des \u00c9tats-Unis a qualifi\u00e9 l'incident de \"dangereux et non professionnel\".<\/p>\n

La Russie a ni\u00e9 toute collision. En r\u00e9ponse, les \u00c9tats-Unis ont repositionn\u00e9 des avions sans pilote pour surveiller la r\u00e9gion, ce que la Russie a contest\u00e9.<\/p>\n

Cette situation pr\u00e9sentait la possibilit\u00e9 mena\u00e7ante que les syst\u00e8mes d'IA influencent les d\u00e9cisions militaires, voire contribuent \u00e0 des escalades impr\u00e9vues dans les conflits militaires.<\/p>\n

Comme le demande Tech Inquiry, \"il vaut la peine de d\u00e9terminer si le projet Maven a contribu\u00e9 par inadvertance \u00e0 l'une des escalades militaires les plus importantes de notre \u00e9poque\".<\/p>\n

Champs de mines \u00e9thiques<\/h2>\n

Jusqu'\u00e0 pr\u00e9sent, les performances du projet Maven ont \u00e9t\u00e9 tr\u00e8s irr\u00e9guli\u00e8res. <\/span><\/p>\n

Selon le <\/span>Donn\u00e9es de Bloomberg cit\u00e9es<\/span><\/a> par le Ind\u00e9pendant de Kiev<\/a>En utilisant diff\u00e9rents types de donn\u00e9es d'imagerie, les soldats peuvent identifier correctement un char dans 84%, tandis que l'IA du projet Maven est plus proche de 60%, ce chiffre chutant \u00e0 30% dans des conditions de neige.<\/span><\/p>\n

Si les implications \u00e9thiques de l'utilisation de l'IA pour prendre des d\u00e9cisions de vie ou de mort en temps de guerre sont profond\u00e9ment troublantes, le risque de dysfonctionnement introduit un aspect encore plus effrayant dans cette course \u00e0 l'armement technologique.<\/p>\n

La question n'est pas seulement de savoir si nous devons utiliser l'IA pour cibler des \u00eatres humains, mais aussi de savoir si nous pouvons faire confiance \u00e0 ces syst\u00e8mes pour fonctionner comme pr\u00e9vu dans le brouillard de la guerre.<\/p>\n

Que se passe-t-il lorsque des civils se trouvant \u00e0 proximit\u00e9 sont d\u00e9sign\u00e9s comme cibles et d\u00e9truits de mani\u00e8re autonome ? Et que se passe-t-il si le drone lui-m\u00eame se d\u00e9r\u00e8gle et fonctionne mal, se d\u00e9pla\u00e7ant dans des environnements dans lesquels il n'est pas entra\u00een\u00e9 \u00e0 op\u00e9rer ?<\/span><\/p>\n

Dans ce contexte, un dysfonctionnement de l'IA n'est pas simplement un probl\u00e8me technique, c'est un catalyseur potentiel de trag\u00e9die \u00e0 une \u00e9chelle inimaginable. Contrairement aux erreurs humaines, dont la port\u00e9e peut \u00eatre limit\u00e9e, l'erreur d'un syst\u00e8me d'IA peut entra\u00eener un carnage g\u00e9n\u00e9ralis\u00e9 et aveugle en l'espace de quelques secondes.<\/p>\n

Des engagements ont d\u00e9j\u00e0 \u00e9t\u00e9 pris pour ralentir ces d\u00e9veloppements et garder les armes sous cl\u00e9, comme le montrent les exemples suivants <\/span>30 pays ont adh\u00e9r\u00e9 US<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span> glissi\u00e8res de s\u00e9curit\u00e9<\/span><\/a> sur la technologie militaire de l'IA.<\/span><\/p>\n

Le minist\u00e8re am\u00e9ricain de la d\u00e9fense (DoD)<\/span>\u00a0a \u00e9galement publi\u00e9 cinq \"principes \u00e9thiques pour l'intelligence artificielle<\/a>\"pour un usage militaire, y compris le fait que <\/span>\"Le personnel du minist\u00e8re de la d\u00e9fense fera preuve de discernement et de prudence, tout en restant responsable du d\u00e9veloppement, du d\u00e9ploiement et de l'utilisation des capacit\u00e9s d'IA.<\/span><\/p>\n

Cependant, des d\u00e9veloppements r\u00e9cents indiquent un d\u00e9calage entre ces principes et la pratique. <\/span><\/p>\n

D'une part, la technologie infus\u00e9e par l'IA est probablement d\u00e9j\u00e0 responsable d'incidents graves en dehors de ses attributions pr\u00e9vues. Deuxi\u00e8mement, le groupe de travail sur l'IA g\u00e9n\u00e9rative du minist\u00e8re de la d\u00e9fense implique l'externalisation aupr\u00e8s d'entreprises priv\u00e9es <\/span>comme Palantir, Microsoft et OpenAI<\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/span><\/a>.\u00a0<\/span><\/p>\n

La collaboration avec des entit\u00e9s commerciales qui ne sont pas soumises \u00e0 la m\u00eame surveillance que les agences gouvernementales met en doute la capacit\u00e9 du minist\u00e8re de la d\u00e9fense \u00e0 contr\u00f4ler le d\u00e9veloppement de l'IA.<\/span><\/p>\n

Entre-temps, le Comit\u00e9 international de la Croix-Rouge (CICR) a pris l'initiative d'une campagne d'information sur les droits de l'homme. <\/span>des discussions sur la l\u00e9galit\u00e9 de ces syst\u00e8mes<\/span><\/a>, notamment en ce qui concerne les <\/span>Le principe de \"distinction\" de la Convention de Gen\u00e8ve<\/span><\/a>qui impose de faire la distinction entre les combattants et les civils.\u00a0<\/span><\/p>\n

Les algorithmes d'IA ne valent que ce que valent leurs donn\u00e9es d'entra\u00eenement et leurs r\u00e8gles programm\u00e9es. Ils risquent donc d'avoir du mal \u00e0 faire cette distinction, en particulier dans des conditions dynamiques et impr\u00e9visibles sur le champ de bataille.<\/span><\/p>\n

Comme l'a montr\u00e9 l'incident du drone de la mer Noire, ces craintes sont r\u00e9elles. Pourtant, les chefs militaires du monde entier restent optimistes quant aux machines de guerre infus\u00e9es par l'IA.\u00a0<\/span><\/p>\n

Il n'y a pas si longtemps, un avion de chasse F-16 pilot\u00e9 par l'IA a surpass\u00e9 des pilotes humains lors d'une d\u00e9monstration.<\/span><\/p>\n