Institute for Strategic Dialogue (ISD) har analyserat en påverkanskampanj på nätet som iscensattes av ett kinesiskt nätverk för att störa det amerikanska presidentvalet.
Denna operation, som kallas "Spamouflage" på grund av sin bedrägliga taktik, har kopplats till Kinas kommunistiska parti (KKP).
Kampanjen använder AI och ett nätverk av konton i sociala medier för att diskutera och provocera ämnen som rör valet i USA, inklusive frågor som drogmissbruk, hemlöshet och vapenvåld.
Ungefär hälften av världens befolkning är deltar i val i årvilket ledde till en utbredd oro över potentialen hos AI deep fakes att förstärka felaktig information och påverka röstningsbeteenden.
I kampanjen "Spamouflage" används AI-genererade och manipulerade bilder av politiska personer som Joe Biden och Donald Trump för att framhäva och utnyttja politiska skiljelinjer.
Den ISD:s rapport visar följande, "Onlinekampanjen använde artificiell intelligens (AI) och ett nätverk av konton i sociala medier i ett uppenbart försök att smutskasta bilden av USA som en nation med drogmissbruk, hemlöshet och vapenvåld."
Elise Thomas från ISD säger om rapporten: "Bland de berättelser som sprids finns påståenden om att president Biden skulle ha använt droger för att förbättra sitt sätt att tala inför publik och anklagelser om korruption."
Denna operation, som tros vara av kinesiskt ursprung, har varit aktiv åtminstone sedan 2017.
Nya händelser inträffade i april 2023 när USA:s justitiedepartement åtalade 40 anställda vid det kinesiska ministeriet för offentlig säkerhet, 912 Special Projects Working Group, och pekade på deras inblandning i vad som troligen är kampanjen "Spamouflage".
Fokus för "Spamouflage" har nu svängt till tävlingen mellan Biden och Trump. Bilderna är uppenbarligen AI-genererade, en vanlig taktik bland hotaktörer som använder tekniken för att skapa visuellt effektfulla, högkvalitativa djupa förfalskningar.
OpenAI och Microsoft har nyligen arbetat tillsammans att störa hotaktörer som använder sin AI-teknik för propaganda och djupa falska syften.
Men djupt falska bilder fortsätter att slinka igenom system för innehållsdetektering och ses av miljontals människor.
Berättelser som formar kampanjen "Spamouflage
ISD, som grundades 2006 som en ideell, partipolitiskt obunden organisation med syfte att bekämpa felaktig information, identifierade flera viktiga berättelser bland innehållet:
Splittring i samband med valet: I denna berättelse framställs valet som en katalysator för ytterligare splittring, vilket förvärrar USA:s befintliga utmaningar. Bilderna visar ofta Biden och Trump i konfrontation, vilket antyder att de djupt rotade politiska motsättningarna utnyttjas.
Negativt fokus på Biden: Kampanjen verkar oproportionerligt rikta in sig på president Biden med negativa berättelser, inklusive anklagelser om korruption och droganvändning. Detta kan vara ett strategiskt val eller bara bero på att han är den nuvarande presidenten.
Tvetydig hållning till Trump: Intressant nog har innehållet relaterat till Trump ofta en tvetydig ton som kan tolkas som positiv.
Berättelser om nationellt förfall: En betydande del av innehållet fokuserar på att måla upp en dyster bild av USA, och berör förfall i städerna, opioidkrisen och vapenvåld för att skapa en känsla av kaos.
Ifrågasättande av valintegritet: Även om det inte är ett primärt fokus finns det innehåll som ifrågasätter valintegriteten.
Abortpolitik: Abortfrågan dyker upp i vissa bilder, där en del innehåll antyder Bidens otillräcklighet när det gäller att skydda aborträtten, vilket ställs mot påståenden om att Trump vill införa ett federalt förbud mot abort.
Spamouflage kan få internationellt inflytande
Nätverket "Spamouflage" var främst aktivt i USA, men India Today's OSINT-team upptäckt bevis för kampanjens aktiviteter i Indien. Det är omöjligt att veta hur många av dessa typer av kampanjer som för närvarande är aktiva över hela världen.
Metas svar på denna kampanj har varit snabbt och tagit bort tusentals konton som är kopplade till innehållet. X kritiserades dock för sitt tröga svar.
Trots de omfattande insatserna i "Spamouflage"-kampanjen är dess effektivitet när det gäller verkligt engagemang från användare av sociala medier fortfarande tveksam.
ISD:s rapport visar att det mesta av det innehåll som genereras av detta nätverk inte når fram till publiken, vilket leder till minimal interaktion.
Iet måste sägas att de flesta av inläggen är direkt löjliga. Man kan förstå varför de omedelbart skulle avfärdas.
Men.., forskning har visat att att djupa falska bilder har en påtaglig inverkan på mänskliga beslutsprocesser, så det är för tidigt att avskriva effekterna.
I vilket fall som helst påminner kampanjen "Spamouflage" oss återigen om AI:s roll i en stigande våg av sofistikerad felinformation.
