Massive Fake-Kampagne zur US-Präsidentschaftswahl

Februar 21, 2024

Wahl 2024 AI

Das Institute for Strategic Dialogue (ISD) analysierte eine von einem chinesischen Netzwerk orchestrierte Online-Beeinflussungskampagne zur Störung der US-Präsidentschaftswahlen.

Diese Operation, die aufgrund ihrer Täuschungstaktik als "Spamouflage" bezeichnet wird, wird mit der Kommunistischen Partei Chinas (KPCh) in Verbindung gebracht. 

Die Kampagne nutzt künstliche Intelligenz und ein Netzwerk von Social-Media-Konten, um Themen der US-Wahl zu diskutieren und zu provozieren, darunter Themen wie Drogenmissbrauch, Obdachlosigkeit und Waffengewalt. 

Etwa die Hälfte der Weltbevölkerung ist Teilnahme an den Wahlen in diesem JahrDies führte zu einer weit verbreiteten Besorgnis über das Potenzial von KI-Fälschungen, Fehlinformationen zu verstärken und das Wahlverhalten zu beeinflussen. 

Die "Spamouflage"-Kampagne nutzt insbesondere KI-generierte und manipulierte Bilder von politischen Persönlichkeiten wie Joe Biden und Donald Trump, um politische Spaltungen zu betonen und auszunutzen.

Die Der Bericht der ISD zeigtDie Online-Kampagne nutzte künstliche Intelligenz (KI) und ein Netzwerk von Social-Media-Konten, um das Image der USA als Nation mit Drogenmissbrauch, Obdachlosigkeit und Waffengewalt zu schädigen. 

Elise Thomas vom ISD sagte zu dem Bericht: "Zu den verbreiteten Narrativen gehören Behauptungen über den Drogenkonsum von Präsident Biden, um seine Leistung in der Öffentlichkeit zu verbessern, und Korruptionsvorwürfe." 

Diese Operation, von der man annimmt, dass sie chinesischen Ursprungs ist, ist seit mindestens 2017 aktiv. 

Neue Entwicklungen gab es im April 2023, als das US-Justizministerium 40 Mitarbeiter der Arbeitsgruppe 912 für Sonderprojekte des chinesischen Ministeriums für öffentliche Sicherheit anklagte, was auf ihre Beteiligung an der wahrscheinlichen "Spamouflage"-Kampagne hindeutet. 

Der Schwerpunkt der "Spamouflage" hat sich nun auf den Wettbewerb zwischen Biden und Trump verlagert. Die Bilder sind offensichtlich KI-generiert, eine gängige Taktik von Bedrohungsakteuren, die diese Technologie nutzen, um visuell beeindruckende, qualitativ hochwertige Fälschungen zu erstellen. 

OpenAI und Microsoft haben kürzlich zusammengearbeitet Bedrohungsakteure zu stören, die ihre KI-Technologien für Propaganda- und Fälschungszwecke einsetzen. 

Dennoch schlüpfen immer wieder gefälschte Bilder durch die Systeme zur Erkennung von Inhalten und werden von Millionen von Menschen angesehen.

Narrative, die die Kampagne "Spamouflage" prägen

Die ISD, die 2006 als gemeinnützige, überparteiliche Organisation gegründet wurde, um gegen Fehlinformationen vorzugehen, hat mehrere Schlüsselerzählungen unter den Inhalten identifiziert: 

Die Spaltung der Wahl: In diesem Narrativ wird die Wahl als Katalysator für eine weitere Spaltung dargestellt, die Amerikas bestehende Herausforderungen noch verschärft. Die Bilder zeigen Biden und Trump oft auf Konfrontationskurs, was auf die tief sitzenden politischen Spaltungen hindeutet, die ausgenutzt werden.

Politische Bildsprache im Propagandastil. Quelle: ICD.

Negativer Fokus auf Biden: Die Kampagne scheint Präsident Biden unverhältnismäßig stark mit negativen Darstellungen zu konfrontieren, einschließlich Anschuldigungen wegen Korruption und Drogenkonsum. Dies könnte eine strategische Entscheidung sein oder einfach darauf zurückzuführen sein, dass er der aktuelle Präsident ist. 

AI Deep Fake
Die Stimmung gegenüber Biden war überwiegend negativ. Quelle: ICD.

Zweideutige Haltung zu Trump: Interessanterweise haben die Inhalte, die sich auf Trump beziehen, oft einen zweideutigen Ton, der als positiv ausgelegt werden könnte.

AI tief gefälscht
Trump wurde sowohl in einem positiven als auch in einem negativen Licht gezeigt. Quelle: ICD.

Narrative über den nationalen Verfall: Ein großer Teil des Inhalts konzentriert sich darauf, ein düsteres Bild der USA zu zeichnen, indem er den Verfall der Städte, die Opioid-Krise und Waffengewalt thematisiert, um ein Gefühl des Chaos zu erzeugen. 

Infragestellung der Integrität der Wahlen: Obwohl dies nicht im Vordergrund steht, gibt es Inhalte, die die Integrität der Wahlen in Frage stellen.

Abtreibungspolitik: Das Thema Abtreibung taucht in einigen Bildern auf, wobei einige Inhalte darauf hindeuten, dass Biden die Abtreibungsrechte nicht ausreichend schützt, während gleichzeitig behauptet wird, dass Trump ein bundesweites Abtreibungsverbot anstrebt.

Spamouflage könnte internationalen Einfluss haben

Das "Spamouflage"-Netzwerk war hauptsächlich in den USA aktiv, aber Das OSINT-Team von India Today entdeckte Beweise für die Aktivitäten der Kampagne in Indien. Es ist unmöglich zu wissen, wie viele Kampagnen dieser Art derzeit weltweit aktiv sind. 

Meta hat auf diese Kampagne schnell reagiert und Tausende von Konten, die mit den Inhalten in Verbindung stehen, gelöscht. X wurde jedoch für seine schleppende Reaktion kritisiert.

Trotz der umfangreichen Bemühungen der "Spamouflage"-Kampagne bleibt ihre Wirksamkeit im Hinblick auf ein echtes Engagement der Nutzer sozialer Medien fraglich. 

Aus dem ISD-Bericht geht hervor, dass die meisten von diesem Netz generierten Inhalte beim Publikum nicht ankommen, was zu minimaler Interaktion führt.

Iie meisten der Beiträge sind geradezu lächerlich. Man kann verstehen, warum sie sofort abgewiesen werden. 

Allerdings, Die Forschung hat gezeigt dass gefälschte Bilder einen greifbaren Einfluss auf menschliche Entscheidungsprozesse haben, so dass es zu früh ist, die Auswirkungen abzuschreiben. 

Auf jeden Fall erinnert uns die "Spamouflage"-Kampagne erneut an die Rolle der KI in einer zunehmenden Flut ausgeklügelter Fehlinformationen. 

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Sam Jeans

Sam ist ein Wissenschafts- und Technologiewissenschaftler, der in verschiedenen KI-Startups gearbeitet hat. Wenn er nicht gerade schreibt, liest er medizinische Fachzeitschriften oder kramt in Kisten mit Schallplatten.

×

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen