L'Institut pour le dialogue stratégique (ISD) a analysé une campagne d'influence en ligne orchestrée par un réseau chinois pour perturber les élections présidentielles américaines.
Cette opération, baptisée "Spamouflage" en raison de ses tactiques trompeuses, a été liée au Parti communiste chinois (PCC).
La campagne utilise l'IA et un réseau de comptes de médias sociaux pour discuter et provoquer des sujets liés aux élections américaines, y compris des questions telles que la toxicomanie, le sans-abrisme et la violence armée.
Environ la moitié de la population mondiale est participant aux élections cette annéeLes résultats de cette enquête ont suscité une inquiétude généralisée quant à la capacité de l'IA à amplifier la désinformation et à influencer les comportements électoraux.
La campagne "Spamouflage" utilise notamment des images de personnalités politiques telles que Joe Biden et Donald Trump, générées et manipulées par l'IA, afin d'accentuer et d'exploiter les divisions politiques.
Les Le rapport de la DSI révèleLa campagne en ligne a utilisé l'intelligence artificielle (IA) et un réseau de comptes de médias sociaux dans le but apparent de ternir l'image des États-Unis en tant que pays où sévissent la toxicomanie, le sans-abrisme et la violence armée.
Elise Thomas, de l'ISD, a déclaré à propos du rapport : "Parmi les récits propagés, on trouve des allégations concernant l'utilisation de drogues par le président Biden pour améliorer ses performances oratoires et des allégations de corruption".
Cette opération, qui serait d'origine chinoise, est active depuis au moins 2017.
De nouveaux développements sont intervenus en avril 2023 lorsque le ministère américain de la justice a inculpé 40 employés du groupe de travail sur les projets spéciaux 912 du ministère chinois de la sécurité publique, soulignant leur implication dans ce qui est probablement la campagne "Spamouflage".
L'attention de "Spamouflage" s'est maintenant portée sur la compétition entre Biden et Trump. Les images sont manifestement générées par l'IA, une tactique courante chez les acteurs de la menace qui utilisent la technologie pour créer des contrefaçons profondes de haute qualité et visuellement percutantes.
OpenAI et Microsoft ont récemment collaboré pour perturber les acteurs de la menace qui utilisent leurs technologies d'IA à des fins de propagande et de "deep fake".
Cependant, des images profondément truquées continuent de passer à travers les systèmes de détection de contenu et d'être visionnées par des millions de personnes.
Les récits qui façonnent la campagne "Spamouflage".
La DSI, créée en 2006 en tant qu'organisation à but non lucratif et non partisane ayant pour objectif de lutter contre la désinformation, a identifié plusieurs récits clés parmi les contenus :
Le caractère conflictuel de l'élection : Ce récit dépeint l'élection comme un catalyseur de divisions supplémentaires, exacerbant les défis actuels de l'Amérique. Les images montrent souvent Biden et Trump en train de s'affronter, laissant entrevoir les divisions politiques profondes qui sont exploitées.
L'accent négatif mis sur Biden : La campagne semble cibler de manière disproportionnée le président Biden avec des récits négatifs, notamment des accusations de corruption et d'usage de drogues. Il pourrait s'agir d'un choix stratégique ou simplement du fait qu'il est l'actuel président.
Position ambiguë sur Trump : Il est intéressant de noter que le contenu lié à Trump a souvent un ton ambigu qui pourrait être interprété comme positif.
Récits sur la décadence nationale : Une grande partie du contenu s'attache à dresser un tableau sombre des États-Unis, évoquant le délabrement urbain, la crise des opioïdes et la violence des armes à feu pour créer un sentiment de chaos.
Remise en cause de l'intégrité des élections : Bien qu'il ne s'agisse pas d'un thème principal, certains contenus jettent le doute sur l'intégrité des élections.
Politique en matière d'avortement : La question de l'avortement apparaît dans certaines images, dont le contenu suggère que M. Biden n'est pas en mesure de protéger les droits à l'avortement, et qui sont juxtaposées à des affirmations selon lesquelles M. Trump cherche à interdire l'avortement au niveau fédéral.
Le spamouflage pourrait avoir une influence internationale
Le réseau "Spamouflage" était principalement actif aux États-Unis, mais il a également été mis en place dans d'autres pays de l'Union européenne. L'équipe OSINT d'India Today a découvert des preuves des activités de la campagne en Inde. Il est impossible de savoir combien de campagnes de ce type sont actuellement actives dans le monde.
Meta a réagi rapidement à cette campagne en supprimant des milliers de comptes liés à ce contenu. Cependant, X a été critiqué pour sa lenteur.
Malgré les efforts considérables de la campagne "Spamouflage", son efficacité en termes d'engagement réel de la part des utilisateurs des médias sociaux reste discutable.
Le rapport de la DSI indique que la plupart des contenus générés par ce réseau ne trouvent pas d'écho auprès du public, ce qui conduit à une interaction minimale.
IIl faut dire que la plupart des messages sont carrément ridicules. On comprend pourquoi ils sont immédiatement rejetés.
Cependant, La recherche a démontré que les images falsifiées en profondeur ont un impact tangible sur les processus décisionnels humains, et qu'il est donc trop tôt pour passer les impacts par pertes et profits.
Quoi qu'il en soit, la campagne "Spamouflage" nous rappelle une fois de plus le rôle de l'IA dans la vague croissante de désinformation sophistiquée.
