Institute for Strategic Dialogue (ISD) har analysert en påvirkningskampanje på nettet som et kinesisk nettverk har orkestrert for å forstyrre det amerikanske presidentvalget.
Denne operasjonen, som på grunn av sin villedende taktikk har fått navnet "Spamkamuflasje", har blitt knyttet til Kinas kommunistiske parti (KKP).
Kampanjen bruker kunstig intelligens og et nettverk av kontoer i sosiale medier for å diskutere og provosere amerikanske valgkampanjer, blant annet om temaer som narkotikamisbruk, hjemløshet og våpenvold.
Rundt halvparten av verdens befolkning er deltar i valg i årDette har ført til en utbredt bekymring for at AI deep fakes kan forsterke feilinformasjon og påvirke stemmegivningen.
"Spamouflage"-kampanjen bruker blant annet AI-genererte og manipulerte bilder av politiske figurer som Joe Biden og Donald Trump for å fremheve og utnytte politiske skillelinjer.
Den ISDs rapport avslører"Nettkampanjen brukte kunstig intelligens (AI) og et nettverk av kontoer i sosiale medier i et tilsynelatende forsøk på å sverte USAs image som en nasjon preget av narkotikamisbruk, hjemløshet og våpenvold."
Elise Thomas fra ISD sier om rapporten: "Blant fortellingene som spres, er påstander om at president Biden har brukt narkotika for å forbedre sine offentlige taler og påstander om korrupsjon."
Denne operasjonen, som antas å ha kinesisk opprinnelse, har vært aktiv i hvert fall siden 2017.
I april 2023 kom det nye utviklingstrekk da det amerikanske justisdepartementet tok ut tiltale mot 40 ansatte i det kinesiske ministeriet for offentlig sikkerhet, 912 Special Projects Working Group, og pekte på at de var involvert i det som trolig er "Spamouflage"-kampanjen.
Fokuset i "Spamouflage" har nå dreid seg om kampen mellom Biden og Trump. Bildene er tydeligvis AI-genererte, en vanlig taktikk blant trusselaktører som bruker teknologien til å skape visuelt effektfulle, dype forfalskninger av høy kvalitet.
OpenAI og Microsoft har nylig jobbet sammen for å forstyrre trusselaktører som bruker AI-teknologiene sine til propaganda og "deep fake"-formål.
Men falske bilder fortsetter å slippe gjennom systemer som oppdager innhold, og blir sett av millioner av mennesker.
Narrativer som former kampanjen "Spamkamuflasje
ISD, som ble etablert i 2006 som en ideell, partipolitisk uavhengig organisasjon med formål om å bekjempe feilinformasjon, identifiserte flere sentrale narrativer blant innholdet:
Valgets splittende karakter: Dette narrativet fremstiller valget som en katalysator for ytterligere splittelse, noe som forsterker USAs eksisterende utfordringer. Bildene viser ofte Biden og Trump i konfrontasjon, noe som antyder at de dype politiske skillelinjene blir utnyttet.
Negativt fokus på Biden: Kampanjen ser ut til å rette uforholdsmessig mange negative narrativer mot president Biden, blant annet beskyldninger om korrupsjon og narkotikabruk. Dette kan være et strategisk valg, eller det kan bare gjenspeile at han er den nåværende presidenten.
Tvetydig holdning til Trump: Det er interessant å merke seg at innholdet knyttet til Trump ofte har en tvetydig tone som kan tolkes som positiv.
Fortellinger om nasjonalt forfall: En betydelig del av innholdet fokuserer på å tegne et dystert bilde av USA, og tar for seg forfall i byene, opioidkrisen og våpenvold for å skape en følelse av kaos.
Stiller spørsmål ved valgets integritet: Selv om det ikke er et hovedfokus, er det innhold som sår tvil om valgets integritet.
Abortpolitikk: Abortspørsmålet dukker opp i noen av bildene, med innhold som antyder Bidens utilstrekkelighet når det gjelder å beskytte abortrettigheter, sammenholdt med påstander om at Trump ønsker et føderalt forbud mot abort.
Spamkamuflasje kan ha internasjonal innflytelse
Spamouflage-nettverket var først og fremst aktivt i USA, men India Todays OSINT-team oppdaget bevis på kampanjens aktiviteter i India. Det er umulig å vite hvor mange slike kampanjer som er aktive på verdensbasis.
Meta har reagert raskt på denne kampanjen og fjernet tusenvis av kontoer knyttet til innholdet. X ble imidlertid kritisert for sin trege respons.
Til tross for den omfattende innsatsen i "Spamkamuflasje"-kampanjen, er det fortsatt tvilsomt om den er effektiv når det gjelder å skape et reelt engasjement blant brukerne av sosiale medier.
ISD-rapporten antyder at det meste av innholdet som genereres av dette nettverket, ikke gir gjenklang hos publikum, noe som fører til minimal interaksjon.
Iet må sies at de fleste av innleggene er direkte latterlige. Man skjønner hvorfor de umiddelbart blir avvist.
Men.., forskning har vist at at falske bilder har en håndgripelig innvirkning på menneskelige beslutningsprosesser, så det er for tidlig å avskrive effekten.
Uansett minner "Spamouflage"-kampanjen oss nok en gang om AIs rolle i en økende bølge av sofistikert feilinformasjon.
