Microsoft a tiré la sonnette d'alarme sur les nouvelles menaces technologiques émanant de la Chine et de la Corée du Nord, qui exploitent l'IA pour mener des opérations malveillantes visant les États-Unis.
Le rapport du Microsoft Threat Analysis Center (MTAC) met l'accent sur la militarisation de l'IA pour semer la discorde sociale et compromettre la sécurité nationale.
"Au cours de l'année écoulée, la Chine a perfectionné une nouvelle capacité à générer automatiquement des images qu'elle peut utiliser pour des opérations d'influence visant à imiter les électeurs américains à travers le spectre politique et à créer une controverse sur des bases raciales, économiques et idéologiques", a déclaré Microsoft. a déclaré dans son rapport.
L'entreprise a expliqué la technologie qui sous-tend ces opérations : "Cette nouvelle capacité est alimentée par une intelligence artificielle qui tente de créer un contenu de haute qualité susceptible de devenir viral sur les réseaux sociaux aux États-Unis et dans d'autres démocraties."
Ces images sont très probablement créées par ce que l'on appelle des générateurs d'images alimentés par diffusion, qui utilisent l'intelligence artificielle pour non seulement créer des images attrayantes, mais aussi apprendre à les améliorer au fil du temps".
Nous avons déjà vu de nombreuses preuves de ce phénomène au niveau national, notamment des escroqueries virales associé à Elon Musk, de fausses photos de explosions au Pentagoneet une mystérieuse interview générée par l'intelligence artificielle qui aurait inclus une version fausse et profonde de la voix de Donald Trump avant que les observateurs ne fassent volte-face et déclarent qu'il était réel.
Ce dernier exemple montre que les faux profonds créent également un "dividende du menteur" qui permet aux hommes politiques et aux personnalités publiques de réfuter un élément qui ternit leur réputation en le qualifiant de "faux" alors qu'il est authentique, ce qui met en évidence les risques à plusieurs niveaux de l'amalgame entre la réalité et les faux.
Orientation et objectifs de la campagne
Selon Microsoft, des acteurs affiliés à l'État chinois exploitent l'IA pour cibler des sujets politiquement conflictuels aux États-Unis, tels que la violence armée.
Plus tôt dans la journée, Google a stipulé que les publicités politiques générées par l'IA doivent clairement l'indiquer si elles incluent "un contenu synthétique qui dépeint de manière non authentique des personnes ou des événements réels ou d'apparence réaliste".
"Cette technologie produit un contenu plus accrocheur que les dessins numériques maladroits et les collages de photos d'archives utilisés dans les campagnes précédentes", indique le rapport de Microsoft, qui ajoute que la technologie ne fera que s'améliorer.
Microsoft a également mis l'accent sur les menaces provenant de la Corée du Nord, en déclarant : "En plus de ce que nous avons observé en Chine, la Corée du Nord est une cybermenace capable, qui se concentre sur la collecte de renseignements et le vol de crypto-monnaies nécessaires pour générer des revenus pour l'État."
Évaluation continue des menaces
Le nouveau rapport du MTAC fait partie d'une série en cours visant à évaluer les menaces numériques provenant de l'Asie de l'Est.
Il décrit les secteurs et les régions à haut risque et souligne la nécessité d'une action collective pour guider la gouvernance de l'industrie internationale de l'IA, qui s'est intensifiée au cours des dernières semaines.
Pendant ce temps, le gouvernement américain continue de couper l'accès de la Chine au marché de l'énergie. l'approvisionnement en puces haut de gamme conçus pour l'entraînement des IA, principalement achetés à Nvidia.
La Chine prévoit de créer sa propre industrie nationale de fabrication de puces afin de réduire la dépendance à l'égard de l'étranger en ce qui concerne le matériel d'IA.
Microsoft tire la sonnette d'alarme face à l'escalade des tensions géopolitiques entre la Chine et les États-Unis, et l'IA se trouve à son intersection.
