{"id":4724,"date":"2023-08-27T20:07:21","date_gmt":"2023-08-27T20:07:21","guid":{"rendered":"https:\/\/dailyai.com\/?p=4724"},"modified":"2023-08-30T21:09:12","modified_gmt":"2023-08-30T21:09:12","slug":"ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2023\/08\/ai-on-the-battlefield-who-is-responsible-if-it-goes-wrong\/","title":{"rendered":"L'IA sur le champ de bataille : qui est responsable en cas de probl\u00e8me ?"},"content":{"rendered":"

Dans un monde o\u00f9 les \"jeux de guerre\" ne se r\u00e9f\u00e8rent plus seulement \u00e0 des jeux de soci\u00e9t\u00e9 ou \u00e0 des jeux vid\u00e9o, mais \u00e0 des sc\u00e9narios de vie ou de mort facilit\u00e9s par l'intelligence des machines, la question de la responsabilit\u00e9 est monumentale.<\/strong><\/p>\n

Les arm\u00e9es intensifient leurs recherches et leurs investissements dans l'IA. <\/span><\/p>\n

Certains analystes ont d\u00e9fini la rencontre isra\u00e9lo-palestinienne de 11 jours en 2021 comme la premi\u00e8re \"Guerre de l'IA<\/a>o\u00f9 les technologies isra\u00e9liennes ont contribu\u00e9 au renseignement et au d\u00e9ploiement sur le champ de bataille. <\/span><\/p>\n

Ces derniers mois,<\/span>\u00a0t<\/span>L'arm\u00e9e am\u00e9ricaine a mis en place un <\/span>Groupe de travail sur l'IA g\u00e9n\u00e9rative<\/span><\/a> et a test\u00e9 avec succ\u00e8s un <\/span>jet autonome propuls\u00e9 par l'IA<\/span><\/a>.<\/span><\/p>\n

Le r\u00f4le croissant de l'IA dans la guerre pr\u00e9sente une s\u00e9rie de dilemmes juridiques et \u00e9thiques complexes auxquels nous n'avons pas encore r\u00e9pondu, m\u00eame si des technologies militaires aliment\u00e9es par l'IA sont d\u00e9ploy\u00e9es en ce moment m\u00eame. <\/span><\/p>\n

Qui est responsable en cas d'\u00e9chec de l'IA ?<\/span><\/h2>\n

Le fabricant de technologies militaires Rafael \"Tisseur de feu<\/a>\"Il localise les positions ennemies \u00e0 l'aide de capteurs et sugg\u00e8re l'unit\u00e9 la mieux plac\u00e9e pour leur tirer dessus.\u00a0<\/span><\/p>\n

La description du produit indique que \"Fire Weaver calcule les r\u00e8gles d'engagement et dirige le ciblage et le tir, en utilisant le tireur le plus appropri\u00e9 pour chaque cible acquise\". <\/span><\/p>\n

\"Calcule\" est le mot cl\u00e9 ici -\u00a0<\/span>L'armement IA peut r\u00e9duire la d\u00e9cision de d\u00e9truire une cible \u00e0 une d\u00e9cision binaire oui\/non, mais que se passe-t-il si Fire Weaver confond un enfant avec un soldat ennemi ? Ou un camion d'aide humanitaire au lieu d'un v\u00e9hicule ennemi ?<\/span><\/p>\n

Actuellement, le manque de clart\u00e9 morale, \u00e9thique et juridique est flagrant. L'IA occupe un vide juridique et \u00e9thique, qui pourrait perdurer un certain temps, car le processus l\u00e9gislatif est notoirement lent - et il est rare qu'il soit confront\u00e9 \u00e0 une technologie qui \u00e9volue aussi rapidement.\u00a0<\/span><\/p>\n

Dans la soci\u00e9t\u00e9 en g\u00e9n\u00e9ral, il existe d\u00e9j\u00e0 de nombreux exemples o\u00f9 l'IA compromet les personnes et leurs droits. Ces exemples donnent un aper\u00e7u du vide l\u00e9gislatif et \u00e9thique creus\u00e9 par l'IA et ses diverses utilisations.\u00a0<\/span><\/p>\n

Par exemple, <\/span>ChatGPT all\u00e9gu\u00e9<\/span><\/a> un G\u00e9orgien, Mark Walters, a \u00e9t\u00e9 reconnu coupable de d\u00e9tournement de fonds et a accus\u00e9 le professeur de droit Jonathan Turley d'agression sexuelle. ChatGPT s'est av\u00e9r\u00e9 faux dans les deux cas.<\/span><\/p>\n

De m\u00eame, Getty Images et plusieurs artistes, auteurs et autres cr\u00e9ateurs ont lanc\u00e9 le programme litiges en mati\u00e8re de droits d'auteur<\/a> contre les entreprises technologiques qui utilisent des donn\u00e9es d'entra\u00eenement pour construire leurs mod\u00e8les.\u00a0<\/span><\/p>\n

Les donn\u00e9es d'entra\u00eenement sont souvent collect\u00e9es aupr\u00e8s de tiers, comme Common Crawl, et de \"biblioth\u00e8ques fant\u00f4mes\" comme Bibliotik, semblables \u00e0 des sites de torrents comme PirateBay.\u00a0<\/span><\/p>\n

Dans ce cas, qui est responsable de la violation du droit d'auteur ? Les d\u00e9veloppeurs d'IA ou les \u00e9diteurs d'ensembles de donn\u00e9es ? Il s'agit d'un cercle de responsabilit\u00e9 digne d'un dessin anim\u00e9, dans lequel chaque partie potentiellement coupable d\u00e9signe ses voisins et, en fin de compte, tout le monde \u00e9chappe au bl\u00e2me.\u00a0<\/span><\/p>\n

Ce paysage \u00e9thique flou est bien plus risqu\u00e9 dans le contexte des armes d'IA et des tactiques militaires algorithmiques, o\u00f9 les calculs d'un mod\u00e8le peuvent litt\u00e9ralement d\u00e9terminer la vie ou la mort.\u00a0<\/span><\/p>\n

Les organisations militaires sont d\u00e9j\u00e0 conscientes du changement de paradigme que repr\u00e9sente l'armement IA. Selon le minist\u00e8re de la d\u00e9fense (DoD), la premi\u00e8re de ses cinq \"<\/span>principes \u00e9thiques pour l'intelligence artificielle<\/span><\/a>\"Pour les utilisations militaires, le terme \"responsable\" est d\u00e9fini comme suit : \"Le personnel du minist\u00e8re de la d\u00e9fense fera preuve de discernement et de prudence, tout en restant responsable du d\u00e9veloppement, du d\u00e9ploiement et de l'utilisation des capacit\u00e9s d'IA\".<\/span><\/p>\n

Cela signifie qu'un \u00eatre humain doit en fin de compte \u00eatre responsable des actions de la machine. L'arm\u00e9e s'est toujours appuy\u00e9e sur le principe selon lequel quelqu'un - g\u00e9n\u00e9ralement le commandant ou un soldat - doit \u00eatre tenu pour responsable des actions entreprises pendant la guerre. Pourtant, le r\u00f4le de l'IA dans le processus d\u00e9cisionnel est de plus en plus obscur.\u00a0<\/span><\/p>\n

La premi\u00e8re question qui se pose est la suivante : alors que l'IA joue un r\u00f4le de plus en plus sophistiqu\u00e9 dans le ciblage, la surveillance et d'autres domaines, le fait d'appuyer sur le bouton \"Approbation\" \u00e9quivaut-il \u00e0 une culpabilit\u00e9 ?\u00a0<\/span><\/p>\n

Si les pr\u00e9visions de l'IA s'av\u00e9raient erron\u00e9es, par exemple, et entra\u00eenaient des pertes civiles, il est douteux que quiconque accepterait que \"la machine\" soit la seule responsable de l'accident.\u00a0<\/span><\/p>\n

Par ailleurs, il peut arriver que des \u00eatres humains soient bl\u00e2m\u00e9s \u00e0 tort pour leur r\u00f4le dans un accident auquel ils n'ont pas contribu\u00e9, ce que l'anthropologue M.C. Elish qualifie de \".<\/span>zone de d\u00e9formation morale<\/span><\/a>.\"\u00a0<\/span><\/p>\n

Les recherches d'Elish sur les accidents industriels et les accidents li\u00e9s aux machines sugg\u00e8rent que les humains ont tendance \u00e0 absorber le bl\u00e2me dans tout accident, m\u00eame si la faute incombe \u00e0 la machine, \u00e0 l'algorithme ou au d\u00e9cideur qui a approuv\u00e9 la technologie en premier lieu.\u00a0<\/span><\/p>\n

Elle s'appuie sur plusieurs exemples concrets, tels que l'accident nucl\u00e9aire de Three Mile Island, en Pennsylvanie, et le crash du vol 447 d'Air France, qui ont \u00e9t\u00e9 largement attribu\u00e9s \u00e0 une \"erreur humaine\" plut\u00f4t qu'\u00e0 une s\u00e9rie plus complexe de d\u00e9faillances r\u00e9parties entre de multiples individus et syst\u00e8mes.\u00a0<\/span><\/p>\n

Elish d\u00e9clare \u00e0 propos de la responsabilit\u00e9 \u00e0 l'\u00e8re de l'IA : \"En ce qui concerne les technologies autonomes et robotiques, les r\u00e9glementations, les lois et les normes sont encore en cours de formation et peuvent \u00eatre particuli\u00e8rement sujettes \u00e0 des incertitudes, voire \u00e0 des d\u00e9robades en mati\u00e8re de responsabilit\u00e9\".<\/span><\/p>\n

Cela soul\u00e8ve \u00e9galement des questions concernant le r\u00f4le des processus d\u00e9mocratiques dans la guerre et la souverainet\u00e9 de la prise de d\u00e9cision humaine. Lorsque la guerre du Vi\u00eat Nam a \u00e9t\u00e9 diffus\u00e9e dans les salons am\u00e9ricains, l'imm\u00e9diatet\u00e9 du bilan de la guerre a eu un impact sur l'opinion publique et la politique.\u00a0<\/span><\/p>\n

En revanche, les combats assist\u00e9s par l'IA pourraient supprimer les freins et contrepoids soci\u00e9taux de l'opinion publique et du discours d\u00e9mocratique.<\/span><\/p>\n

L'\u00e9thicien et philosophe Thomas Metzinger souligne que les normes \u00e9thiques ne sont pas seulement des constructions juridiques, mais aussi des normes sociales issues des processus d\u00e9mocratiques. <\/span><\/p>\n

Si les algorithmes prennent les d\u00e9cisions, l'implication humaine - et donc la responsabilit\u00e9 morale - devient diffuse et redondante.\u00a0<\/span><\/p>\n

Implications juridiques internationales de l'IA dans la guerre<\/span><\/h2>\n

L'un des piliers de la Convention de Gen\u00e8ve est le principe de \"distinction\", qui impose de faire la distinction entre les combattants et les civils.\u00a0<\/span><\/p>\n

La technologie a d\u00e9j\u00e0 prouv\u00e9 son incapacit\u00e9 \u00e0 tenir les promesses de protection accrue des civils, puisque seulement 10% des personnes tu\u00e9es lors des frappes de drones am\u00e9ricains pendant la pr\u00e9sidence Obama \u00e9taient les cibles vis\u00e9es, d'apr\u00e8s des documents divulgu\u00e9s par la Commission europ\u00e9enne. <\/span>The Intercept<\/span><\/a>.\u00a0<\/span><\/p>\n

La qualit\u00e9 des algorithmes d'IA d\u00e9pend des donn\u00e9es sur lesquelles ils sont form\u00e9s et des r\u00e8gles qu'ils sont programm\u00e9s pour suivre. En mati\u00e8re de guerre, un algorithme peut mal interpr\u00e9ter des donn\u00e9es en raison du brouillard de guerre, de donn\u00e9es d'entra\u00eenement erron\u00e9es ou de tactiques ennemies d\u00e9lib\u00e9r\u00e9ment trompeuses.\u00a0<\/span><\/p>\n

Le Comit\u00e9 international de la Croix-Rouge (CICR) a entam\u00e9 des discussions sur la l\u00e9galit\u00e9 des syst\u00e8mes d'armes autonomes au regard du droit international humanitaire existant, mais il existe peu de d\u00e9finitions concr\u00e8tes.\u00a0<\/span><\/p>\n

Ils constatent que les cadres existants sont mal adapt\u00e9s aux nouveaux d\u00e9fis pos\u00e9s par l'IA, et que l'IA n'est pas une science exacte. <\/span>Principes propos\u00e9s par le CICR<\/span><\/a> sont vagues ; par exemple, \"les syst\u00e8mes d'armes autonomes impr\u00e9visibles devraient \u00eatre express\u00e9ment exclus\". <\/span><\/p>\n

O\u00f9 fixer le seuil d'\"impr\u00e9visibilit\u00e9\" lorsqu'une erreur minuscule peut s'av\u00e9rer catastrophique ?<\/span><\/p>\n