L'Istituto per il Dialogo Strategico (ISD) ha analizzato una campagna di influenza online orchestrata da una rete cinese per disturbare le elezioni presidenziali statunitensi.
Questa operazione, soprannominata "Spamouflage" per le sue tattiche ingannevoli, è stata collegata al Partito Comunista Cinese (PCC).
La campagna utilizza l'intelligenza artificiale e una rete di account sui social media per discutere e provocare i temi delle elezioni americane, tra cui l'abuso di droga, i senzatetto e la violenza delle armi.
Circa la metà della popolazione mondiale è che partecipano alle elezioni di quest'annoche ha portato a un'ansia diffusa sul potenziale dei deep fake dell'IA di amplificare la disinformazione e influenzare i comportamenti di voto.
In particolare, la campagna "Spamouflage" utilizza immagini generate e manipolate dall'intelligenza artificiale di figure politiche come Joe Biden e Donald Trump per accentuare e sfruttare le divisioni politiche.
Il Il rapporto di ISD rivelaLa campagna online si è avvalsa dell'intelligenza artificiale (AI) e di una rete di account sui social media, nel tentativo apparente di denigrare l'immagine degli Stati Uniti come nazione piena di abuso di droga, di senzatetto e di violenza con armi da fuoco".
Elise Thomas dell'ISD ha commentato le note del rapporto: "Tra le narrazioni diffuse ci sono affermazioni che riguardano l'uso di droghe da parte del Presidente Biden per migliorare le sue prestazioni in pubblico e accuse di corruzione".
Questa operazione, che si ritiene sia di origine cinese, è attiva almeno dal 2017.
Nuovi sviluppi si sono avuti nell'aprile 2023, quando il Dipartimento di Giustizia degli Stati Uniti ha incriminato 40 dipendenti del gruppo di lavoro 912 Progetti Speciali del Ministero della Pubblica Sicurezza cinese, indicando il loro coinvolgimento in quella che probabilmente è la campagna "Spamouflage".
L'attenzione di "Spamouflage" si è ora spostata sulla gara tra Biden e Trump. Le immagini sono evidentemente generate dall'intelligenza artificiale, una tattica comune tra gli attori delle minacce che utilizzano la tecnologia per creare deep fake di grande impatto visivo e di alta qualità.
OpenAI e Microsoft hanno recentemente collaborato per interrompere gli attori delle minacce che utilizzano le loro tecnologie di intelligenza artificiale per scopi di propaganda e di falsificazione.
Tuttavia, le immagini falsificate continuano a sfuggire ai sistemi di rilevamento dei contenuti per essere visualizzate da milioni di persone.
Narrazioni che danno forma alla campagna "Spamouflage
L'ISD, fondata nel 2006 come organizzazione no-profit e apartitica con l'obiettivo di combattere la disinformazione, ha identificato diverse narrazioni chiave tra i contenuti:
Divisività delle elezioni: Questa narrazione ritrae l'elezione come un catalizzatore di ulteriori divisioni, esacerbando le sfide esistenti in America. Le immagini mostrano spesso Biden e Trump a confronto, alludendo alle profonde divisioni politiche che vengono sfruttate.
Focus negativo su Biden: La campagna sembra colpire in modo sproporzionato il presidente Biden con narrazioni negative, tra cui accuse di corruzione e uso di droghe. Potrebbe trattarsi di una scelta strategica o semplicemente di un riflesso del fatto che è il presidente in carica.
Posizione ambigua su Trump: È interessante notare che i contenuti relativi a Trump hanno spesso un tono ambiguo che potrebbe essere interpretato come positivo.
Narrazioni sulla decadenza nazionale: Una parte significativa del contenuto si concentra sul dipinto di un quadro cupo degli Stati Uniti, toccando il degrado urbano, la crisi degli oppioidi e la violenza delle armi da fuoco per promuovere un senso di caos.
Mettere in discussione l'integrità delle elezioni: Anche se non è un obiettivo primario, ci sono contenuti che mettono in dubbio l'integrità delle elezioni.
Politica dell'aborto: Il tema dell'aborto emerge in alcune immagini, con alcuni contenuti che suggeriscono l'inadeguatezza di Biden nel proteggere i diritti all'aborto, accostati alle affermazioni secondo cui Trump vorrebbe un divieto federale sull'aborto.
Lo spamouflage potrebbe avere un'influenza internazionale
La rete "Spamouflage" è stata attiva principalmente negli Stati Uniti, ma Il team OSINT di India Today ha scoperto prove delle attività della campagna in India. È impossibile sapere quante campagne di questo tipo siano attualmente attive nel mondo.
La risposta di Meta a questa campagna è stata rapida, rimuovendo migliaia di account collegati ai contenuti. Tuttavia, X è stata criticata per la lentezza della sua risposta.
Nonostante gli sforzi profusi dalla campagna "Spamouflage", la sua efficacia in termini di coinvolgimento reale degli utenti dei social media rimane discutibile.
Il rapporto ISD suggerisce che la maggior parte dei contenuti generati da questa rete non risuona con il pubblico, portando a un'interazione minima.
IVa detto che la maggior parte dei post sono assolutamente ridicoli. Si può capire perché vengano immediatamente scartati.
Tuttavia, la ricerca ha dimostrato che le immagini falsificate hanno un impatto tangibile sui processi decisionali umani, quindi è troppo presto per escludere gli impatti.
In ogni caso, la campagna "Spamouflage" ci ricorda ancora una volta il ruolo dell'IA in una marea crescente di sofisticata disinformazione.
