Institute for Strategic Dialogue (ISD) har analyseret en online påvirkningskampagne orkestreret af et kinesisk netværk for at forstyrre det amerikanske præsidentvalg.
Denne operation, som kaldes "Spamouflage" på grund af dens vildledende taktik, er blevet sat i forbindelse med Kinas Kommunistiske Parti (KKP).
Kampagnen bruger kunstig intelligens og et netværk af konti på de sociale medier til at diskutere og provokere emner i forbindelse med det amerikanske valg, herunder emner som stofmisbrug, hjemløshed og våbenvold.
Omkring halvdelen af verdens befolkning er deltager i valg i århvilket har ført til udbredt bekymring for AI deep fakes' potentiale til at forstærke misinformation og påvirke stemmeadfærden.
Især "Spamouflage"-kampagnen bruger AI-genererede og manipulerede billeder af politiske figurer som Joe Biden og Donald Trump til at fremhæve og udnytte politiske uenigheder.
Den ISD's rapport afslører"Online-kampagnen brugte kunstig intelligens (AI) og et netværk af konti på de sociale medier i et tilsyneladende forsøg på at ødelægge USA's image som en nation med stofmisbrug, hjemløshed og våbenvold."
Elise Thomas fra ISD siger om rapporten: "Blandt de fortællinger, der udbredes, er påstande om præsident Bidens brug af stoffer for at forbedre sine offentlige taler og beskyldninger om korruption."
Denne operation, som menes at være kinesisk, har været aktiv i hvert fald siden 2017.
Der skete en ny udvikling i april 2023, da det amerikanske justitsministerium rejste tiltale mod 40 ansatte i det kinesiske ministerium for offentlig sikkerheds 912 Special Projects Working Group og pegede på deres involvering i det, der sandsynligvis er 'Spamouflage'-kampagnen.
Fokus for 'Spamouflage' er nu drejet over på konkurrencen mellem Biden og Trump. Billederne er tydeligvis AI-genererede, en almindelig taktik blandt trusselsaktører, der bruger teknologien til at skabe visuelt effektfulde deep fakes af høj kvalitet.
OpenAI og Microsoft arbejdede for nylig sammen at forstyrre trusselsaktører, der bruger deres AI-teknologier til propaganda og deep fake-formål.
Men falske billeder fortsætter med at slippe igennem systemer, der registrerer indhold, og bliver set af millioner af mennesker.
Fortællinger, der former 'Spamouflage'-kampagnen
ISD, der blev etableret i 2006 som en non-profit, upartisk organisation med det formål at bekæmpe misinformation, identificerede flere nøglefortællinger blandt indholdet:
Valgets splittelse: Denne fortælling fremstiller valget som en katalysator for yderligere splittelse, der forværrer USA's eksisterende udfordringer. Billeder viser ofte Biden og Trump i konfrontation, hvilket antyder, at de dybtliggende politiske skel bliver udnyttet.
Negativt fokus på Biden: Kampagnen ser ud til at være uforholdsmæssigt rettet mod præsident Biden med negative fortællinger, herunder beskyldninger om korruption og stofmisbrug. Det kan være et strategisk valg eller blot et udtryk for, at han er den nuværende præsident.
Tvetydig holdning til Trump: Det er interessant, at indholdet relateret til Trump ofte har en tvetydig tone, der kan tolkes som positiv.
Fortællinger om nationalt forfald: En stor del af indholdet fokuserer på at tegne et dystert billede af USA og berører forfald i byerne, opioidkrisen og vold med skydevåben for at skabe en følelse af kaos.
Sætter spørgsmålstegn ved valgets integritet: Selvom det ikke er et primært fokus, er der indhold, der sår tvivl om valgets integritet.
Abortpolitik: Abortspørgsmålet dukker op i nogle billeder, hvor noget af indholdet antyder Bidens utilstrækkelighed i forhold til at beskytte abortrettigheder, sammenholdt med påstande om, at Trump ønsker et føderalt forbud mod abort.
Spamouflage kan få international indflydelse
'Spamouflage'-netværket var primært aktivt i USA, men India Todays OSINT-team opdagede beviser på kampagnens aktiviteter i Indien. Det er umuligt at vide, hvor mange af den slags kampagner, der er aktive på verdensplan.
Meta har reageret hurtigt på denne kampagne og fjernet tusindvis af konti, der er knyttet til indholdet. X blev dog kritiseret for sin langsomme reaktion.
På trods af den omfattende indsats i "Spamouflage"-kampagnen er dens effektivitet med hensyn til reelt engagement fra brugere af sociale medier stadig tvivlsom.
ISD-rapporten antyder, at det meste af det indhold, der genereres af dette netværk, ikke vækker genklang hos publikum, hvilket fører til minimal interaktion.
IDet skal siges, at de fleste af indlæggene er direkte latterlige. Man kan godt se, hvorfor de straks bliver afvist.
Men.., forskning har vist at dybe falske billeder har en håndgribelig indvirkning på menneskelige beslutningsprocesser, så det er for tidligt at afskrive virkningerne.
Under alle omstændigheder minder "Spamouflage"-kampagnen os igen om AI's rolle i en stigende strøm af sofistikeret misinformation.
