Microsoft a signalé l'utilisation abusive de ses technologies d'intelligence artificielle par des pirates informatiques parrainés par l'État en Russie, en Chine et en Iran.
Microsoft a collaboré avec OpenAI pour observer les activités de groupes liés aux services de renseignement militaire russes, aux gardiens de la révolution iraniens et aux gouvernements chinois et nord-coréen, en utilisant des outils d'IA avancés pour affiner leurs stratégies de piratage et élaborer des messages trompeurs convaincants.
Dans le cadre de Recherche de Microsoft et OpenAIIls ont interrompu les activités de cinq groupes malveillants soutenus par l'État en mettant fin à leur accès aux services de l'OpenAI.
Il s'agit notamment de deux acteurs affiliés à la Chine, Charcoal Typhoon et Salmon Typhoon, de Crimson Sandstorm, originaire d'Iran, d'Emerald Sleet, lié à la Corée du Nord, et de Forest Blizzard, associé à la Russie.
Ces groupes exploitaient les services de l'OpenAI pour des tâches telles que l'interrogation d'informations de source ouverte, la traduction, l'identification d'erreurs de codage et l'exécution de tâches de codage de base. En particulier :
- Charcoal Typhoon utilisait les services d'OpenAI pour rechercher des entreprises et des outils de cybersécurité, déboguer du code, générer des scripts et créer du contenu de phishing.
- Salmon Typhoon a utilisé les services d'OpenAI pour la traduction de documents techniques, la collecte de renseignements sur diverses agences, l'assistance au codage et la recherche de techniques de furtivité.
- Crimson Sandstorm a fait appel aux services d'OpenAI pour la création de scripts dans le cadre du développement d'applications et de sites web, la création de contenus de spear-phishing et l'exploration de méthodes d'évasion.
- Emerald Sleet s'est appuyé sur les services d'OpenAI pour identifier les experts et les organisations de défense, comprendre les vulnérabilités, aider à l'écriture de scripts de base et préparer des documents d'hameçonnage.
- Forest Blizzard a utilisé les services d'OpenAI principalement pour la recherche de sources ouvertes sur les technologies de satellite et de radar et pour l'aide à l'écriture de scripts.
Le fait que des acteurs internationaux utilisent la technologie d'OpenAI illustre l'énigme du double usage de l'IA.
Les acteurs de la menace choisissent délibérément les modèles de l'OpenAI plutôt que de développer leurs propres modèles. C'est moins cher, plus rapide et plus efficace. Des outils souverains à code source ouvert sont probablement en préparation.
Tom Burt, vice-président de Microsoft chargé de la sécurité des clients, a déclaré à propos de ces résultats : "Qu'il y ait ou non violation de la loi ou des conditions de service, nous ne voulons tout simplement pas que les acteurs que nous avons identifiés - que nous suivons et dont nous savons qu'ils sont des acteurs de menaces de toutes sortes - aient accès à cette technologie.
Microsoft interdit toute application ou charge de travail d'IA hébergée sur Azure pour ces groupes soutenus par l'État. L'administration Biden a récemment demandé aux entreprises technologiques signaler certains utilisateurs étrangers de technologies en nuage.
La Chine a réagi par l'intermédiaire de Liu Pengyu, porte-parole de l'ambassade des États-Unis, qui a dénoncé ces accusations comme étant infondées et a plaidé en faveur d'un déploiement responsable des technologies d'IA au profit de l'humanité.
La Chine collabore avec l Les États-Unis se penchent à huis clos sur la sécurité de l'IAmais peut-être par pure nécessité plutôt que par envie ou désir.
Il s'agit du dernier d'une série de rapports sur la cybercriminalité publiés par Microsoft au cours des derniers mois, dont l'un, datant de l'année dernière, traitait de la propagande générée par l'intelligence artificielle et émanant du gouvernement américain. La Chine et la Corée du Nord.
Cependant, il faut dire que les menaces liées à l'IA sont omniprésentes. Les fraudes de type "deep fake" sont en forte augmentation aux États-Unis, au Royaume-Uni et dans d'autres pays occidentaux et européens, de même qu'à l'Est.
Microsoft suit actuellement plus de 300 acteurs de menaces uniques, y compris des acteurs étatiques et des groupes de ransomware, en exploitant l'IA pour améliorer leurs défenses et perturber les activités malveillantes.
Les cybermenaces liées à l'IA se multiplient, et le fait est qu'elles sont internationales et difficiles à contenir.
