Le directeur de la NSA et du US Cyber Command, le général Paul Nakasone, a annoncé la création d'un nouveau centre de sécurité de l'IA lors d'un discours au National Press Club.
L'IA étant de plus en plus intégrée à la défense, à la sécurité nationale et aux infrastructures civiles, la NSA estime qu'il est de plus en plus nécessaire de s'attaquer aux risques qui y sont associés.
Une étude récente menée par la NSA a identifié la protection des modèles d'IA contre le vol et le sabotage comme un défi important pour la sécurité nationale.
M. Nakasone a déclaré : "L'IA aura des conséquences de plus en plus importantes pour la sécurité nationale dans les domaines diplomatique, technologique et économique pour notre pays, nos alliés et nos partenaires". Les aspects "diplomatiques" et "technologiques" de la sécurité nationale font l'objet d'une attention accrue à mesure que les puissances mondiales s'affrontent sur la scène de l'IA.
"Nos adversaires, qui depuis des décennies utilisent le vol et l'exploitation de notre propriété intellectuelle pour promouvoir leurs intérêts, chercheront à coopter nos progrès en matière d'IA et à corrompre l'application que nous en faisons", a déclaré M. Nakasone, sans mentionner explicitement la Chine.
Le nouveau centre de sécurité de l'IA sera placé sous la supervision opérationnelle du Centre de collaboration en matière de cybersécurité de la NSA. M. Nakasone a expliqué que le nouveau centre s'attacherait à "promouvoir l'adoption sécurisée de nouvelles capacités d'IA au sein de l'entreprise de sécurité nationale et de la base de l'industrie de la défense".
AI : à la fois la cause et la solution du problème
Les risques manifestes d'utilisation de l'IA en tant qu'arme font partie des domaines clairs et évidents sur lesquels la NSA se concentre.
Le directeur de la NSA a déclaré que son service n'avait pas encore détecté d'efforts de la part de la Chine ou de la Russie pour influencer les prochaines élections américaines, mais que, compte tenu de l'expérience passée, le risque subsistait.
A rapport récent a mis en évidence une recrudescence des attaques de cybersécurité de la part de cyberacteurs chinois connus sous le nom de BlackTech. À mesure que l'IA s'améliore, la sophistication et l'ampleur de ces attaques augmentent.
L'utilisation de l'IA pour traiter de grandes quantités de données et prendre des décisions éclairées afin d'identifier et d'atténuer ces risques est une perspective attrayante. Mais l'intégration de l'IA dans les opérations des organisations de sécurité nationale telles que la NSA les expose également à de nouveaux risques.
Si nous ne comprenons pas exactement comment un modèle d'IA parvient à une recommandation, pouvons-nous lui faire confiance ? Si le modèle est sujet à des biais ou à des hallucinations, l'ensemble des données sous-jacentes pourrait-il être corrompu par de mauvais acteurs ?
Les CIA a annoncé qu'elle développait sa propre version IA de ChatGPT et la DARPA effectue des recherches comment utiliser l'IA pour prendre des décisions sur le champ de bataille. Imaginez ce qui pourrait se passer si ces outils d'IA pouvaient être influencés pour donner de mauvais conseils.
Le centre de sécurité de la NSA vise à protéger ces institutions contre le vol ou le sabotage de leur technologie par les adversaires des États-Unis. Le directeur a également souligné que l'IA n'automatiserait pas les décisions en matière de sécurité nationale.
"L'IA nous aide, mais nos décisions sont prises par des humains", a déclaré M. Nakasone. Mais plus l'IA s'améliorera, plus ces humains s'en remettront à elle pour prendre leurs décisions.
Et plus la sécurité nationale repose sur l'IA, plus la société devient vulnérable à un dysfonctionnement ou à un sabotage de l'IA.
