L'OTAN a publié une stratégie révisée en matière d'IA afin de promouvoir l'utilisation responsable de l'IA dans les applications de défense et de lutter contre les menaces que font peser les adversaires dotés de capacités d'IA.
La stratégie actualisée de l'OTAN est une indication de la rapidité avec laquelle l'IA dans le domaine de la défense passe de la nouveauté à l'adoption à grande échelle.
La stratégie initiale de l'OTAN en matière d'IA a été définie en 2021 et a entériné six principes d'utilisation responsable (PRU) pour l'IA dans le domaine de la défense, à savoir : La responsabilité et l'obligation de rendre compte, l'explicabilité et la traçabilité, la fiabilité, la gouvernabilité et l'atténuation des biais.
2021, c'était il y a seulement trois ans, mais il y a plusieurs générations de retard par rapport à la technologie disponible sur le marché aujourd'hui. Selon l'OTAN, l'apparition de nouvelles capacités et la généralisation de l'IA s'accompagnent de nouveaux risques.
Alors que l'OTAN est généralement associée à la défense nationale, la stratégie indique que d'autres questions liées à l'IA méritent l'attention de l'OTAN. La stratégie note "la diminution potentielle de la disponibilité mondiale de données publiques de qualité pour entraîner les modèles d'IA".
Il a également mentionné les implications de l'IA à forte intensité de calcul sur la consommation d'énergie. L'OTAN se préoccupe également de "la responsabilisation des équipes homme-machine et de la résolution des problèmes techniques et de gouvernance lorsque des solutions à double usage du marché civil sont appliquées dans un contexte militaire".
Les résultats souhaités exprimés dans la stratégie indiquent clairement que les armes que les membres de l'OTAN utiliseront intégreront l'IA.
L'OTAN déclare qu'elle prendra "des mesures mesurables pour intégrer l'IA, rendue possible par des données de qualité, dans les capacités alliées appropriées par le biais d'engagements dans le cadre du processus d'établissement des plans de défense de l'OTAN".
Pour atteindre cet objectif, l'OTAN déclare qu'elle et ses alliés "doivent pouvoir accéder à des laboratoires spécialisés, à des bacs à sable et à des installations d'essai, et les utiliser".
Contrairement au projet Manhattan, le développement de l'IA de pointe se fait dans des laboratoires d'entreprises, et non dans des installations gouvernementales. On peut se demander si OpenAI ou Meta partageraient leurs installations si l'OTAN le leur demandait.
La stratégie de l'OTAN souligne également l'impact que l'IA aura sur les emplois militaires et civils. Pour y faire face, il faudra "des programmes de reconversion, une expertise de haut niveau, des changements dans les rôles professionnels et une intégration plus poussée des experts techniques dans les opérations militaires".
Jets autonomesdes robots soldats, et des essaims de drones laissera probablement des milliers de soldats à la recherche d'un autre emploi.
Il est facile d'accepter l'idée que les guerres sont menées avec du matériel militaire, mais la stratégie de l'OTAN donne un aperçu intéressant de ce qui préoccupe particulièrement ses dirigeants :
"La désinformation, la militarisation des récits sexistes, la violence sexiste facilitée par la technologie et les opérations d'information fondées sur l'IA pourraient affecter le résultat des élections, semer la division et la confusion au sein de l'Alliance, démobiliser et démoraliser les sociétés et les armées en période de conflit, ainsi que diminuer la confiance dans les institutions et les autorités qui revêtent une importance pour l'Alliance. Ces questions pourraient avoir des conséquences profondes pour l'Alliance".
Dans un scénario où les États-nations utilisent des IA superintelligentes pour se faire concurrence, les décisions stratégiques, la création et la diffusion de la propagande et les manœuvres d'évitement se produiront en quelques millisecondes.
Le défi auquel les membres de l'OTAN sont confrontés est que les modèles d'IA les plus puissants appartiennent à des entreprises qui souhaitent les vendre sur le marché mondial.
L'OTAN déclare qu'elle doit trouver un moyen "d'atténuer le risque que la technologie alliée soit exploitée par des adversaires potentiels et des concurrents stratégiques, et d'aider les Alliés à préserver l'accès aux composants vitaux".
Compte tenu de la les progrès réalisés par la Chine malgré les sanctions américaines, ce cheval de l'IA est peut-être déjà parti.
