Het Institute for Strategic Dialogue (ISD) analyseerde een online beïnvloedingscampagne georkestreerd door een Chinees netwerk om de Amerikaanse presidentsverkiezingen te verstoren.
Deze operatie, die 'Spamouflage' wordt genoemd vanwege de bedrieglijke tactieken, wordt in verband gebracht met de Communistische Partij van China (CCP).
De campagne maakt gebruik van AI en een netwerk van sociale media-accounts om Amerikaanse verkiezingsthema's te bespreken en te provoceren, waaronder onderwerpen als drugsmisbruik, dakloosheid en wapengeweld.
Ongeveer de helft van de wereldbevolking is deelname aan verkiezingen dit jaarDit leidde tot wijdverspreide bezorgdheid over het potentieel van AI deep fakes om verkeerde informatie te versterken en stemgedrag te beïnvloeden.
Met name de 'Spamouflage'-campagne maakt gebruik van door AI gegenereerde en gemanipuleerde beelden van politieke figuren als Joe Biden en Donald Trump om politieke verdeeldheid te accentueren en uit te buiten.
De Het rapport van ISD onthult"De online campagne maakte gebruik van kunstmatige intelligentie (AI) en een netwerk van sociale media accounts in een duidelijke poging om het imago van de VS als een natie vol drugsmisbruik, dakloosheid en wapengeweld te belasteren."
Elise Thomas van de ISD zei over het rapport: "Onder de verhalen die worden verspreid zijn beweringen over drugsgebruik door president Biden om zijn spreekprestaties in het openbaar te verbeteren en beschuldigingen van corruptie."
Deze operatie, die vermoedelijk van Chinese oorsprong is, is op zijn minst sinds 2017 actief.
Nieuwe ontwikkelingen kwamen in april 2023 toen het Amerikaanse Ministerie van Justitie 40 werknemers van de 912 Special Projects Working Group van het Chinese Ministerie van Openbare Veiligheid aanklaagde, wat wijst op hun betrokkenheid bij wat waarschijnlijk de 'Spamouflage'-campagne is.
De focus van 'Spamouflage' is nu gericht op de wedstrijd tussen Biden en Trump. De afbeeldingen zijn duidelijk door AI gegenereerd, een veelgebruikte tactiek onder dreigingsactoren die de technologie gebruiken om visueel indrukwekkende, hoogwaardige deep fakes te maken.
OpenAI en Microsoft hebben onlangs samengewerkt om dreigingsactoren te verstoren die hun AI-technologieën gebruiken voor propaganda en deep fake-doeleinden.
Diep valse afbeeldingen blijven echter door inhouddetectiesystemen glippen om door miljoenen mensen te worden bekeken.
Verhalen die de 'Spamouflage'-campagne vormgeven
De ISD, opgericht in 2006 als een non-profit, onpartijdige organisatie met als doel het aanpakken van verkeerde informatie, identificeerde verschillende belangrijke verhalen onder de inhoud:
De verdeeldheid van de verkiezingen: Dit verhaal schildert de verkiezing af als een katalysator voor verdere verdeeldheid, waardoor de bestaande uitdagingen van Amerika nog groter worden. Beelden laten Biden en Trump vaak confronterend zien, hintend op de diepgewortelde politieke verdeeldheid die wordt uitgebuit.
Negatieve focus op Biden: De campagne lijkt zich onevenredig te richten op president Biden met negatieve verhalen, waaronder beschuldigingen van corruptie en drugsgebruik. Dit kan een strategische keuze zijn of gewoon een weerspiegeling van het feit dat hij de huidige president is.
Dubbelzinnig standpunt over Trump: Interessant is dat de inhoud met betrekking tot Trump vaak een dubbelzinnige toon heeft die als positief kan worden opgevat.
Verhalen over nationaal verval: Een aanzienlijk deel van de inhoud is gericht op het schetsen van een grimmig beeld van de VS, waarbij stedelijk verval, de opioïdencrisis en wapengeweld worden aangehaald om een gevoel van chaos te creëren.
De integriteit van de verkiezingen in twijfel trekken: Hoewel het geen primaire focus is, is er inhoud die twijfel zaait over de integriteit van de verkiezingen.
Abortusbeleid: Het onderwerp abortus komt in sommige beelden naar voren, met inhoud die suggereert dat Biden niet in staat is om abortusrechten te beschermen, naast beweringen dat Trump een federaal verbod op abortus wil.
Spamouflage kan internationale invloed hebben
Het 'Spamouflage'-netwerk was voornamelijk actief in de VS, maar OSINT-team van India Today bewijs ontdekt van de activiteiten van de campagne in India. Het is onmogelijk om te weten hoeveel van dit soort campagnes er momenteel wereldwijd actief zijn.
Meta reageerde snel op deze campagne en verwijderde duizenden accounts die gekoppeld waren aan de inhoud. X werd echter bekritiseerd voor zijn trage reactie.
Ondanks de uitgebreide inspanningen van de 'Spamouflage'-campagne blijft de doeltreffendheid ervan in termen van echte betrokkenheid van gebruikers van sociale media twijfelachtig.
Het ISD-rapport suggereert dat de meeste inhoud die door dit netwerk wordt gegenereerd niet aanslaat bij het publiek, wat leidt tot minimale interactie.
It moet gezegd worden dat de meeste berichten ronduit belachelijk zijn. Je kunt zien waarom ze onmiddellijk worden afgewezen.
Echter, onderzoek heeft aangetoond dat deep fake beelden een tastbare invloed hebben op menselijke besluitvormingsprocessen, dus het is nog te vroeg om effecten af te schrijven.
In elk geval herinnert de 'Spamouflage'-campagne ons weer aan de rol van AI in een opkomende vloed van geraffineerde desinformatie.
