Eine umstrittene Audioaufnahme tauchte wenige Stunden nach der Veröffentlichung am Wahltag in der Slowakei auf Facebook auf.
Darin kamen angeblich Michal Šimečka, der Vorsitzende der Partei Progressive Slowakei, und Monika Tódová von der Zeitung Denník N zu Wort.
Das Gespräch drehte sich um Wahlmanipulationen und den Kauf von Stimmen von der Roma-Minderheit, was in den sozialen Medien zu Korruptionssorgen und Verwirrung führte.
Die Aufnahme wurde sowohl von Šimečka als auch von Denník N. umgehend als Fälschung entlarvt. Die Website der Agence France-Presse (AFP) wies auf Anzeichen für eine KI-Manipulation in der Aufnahme hin, woraufhin internationale Nachrichtenagenturen darüber berichteten.
Angesichts des Zeitpunkts - innerhalb der 48-stündigen Medienruhe vor der Wahl - war es schwierig, den Beitrag rechtzeitig zu widerlegen.
Die Partei Smer-SD des ehemaligen slowakischen Ministerpräsidenten Robert Fico erzielte bei der Wahl am Samstag 23% und lag damit vor der zentristischen Progressiven Slowakei mit 18%.
Da es sich um Audio-Inhalte handelte, entging es außerdem der Meta-Richtlinie, die in erster Linie auf manipulierte Videos abzielt.
Im Vorfeld der Abstimmung wies die EU-Digitalchefin Věra Jourová auf die Anfälligkeit der Europawahlen für groß angelegte Manipulationen hin und deutete externe Einflüsse, etwa aus Moskau, an.
Jetzt sind die Länder in höchster Alarmbereitschaft, weil die Wahlbeeinflussung durch KI unvermeidlich scheint - die Frage ist nur, ob wir sie aufhalten können und wie viel Schaden sie anrichten kann. Polen, das kurz vor der Wahl steht, wird der nächste Test sein.
Auch in den Jahren 2024 und 2025 stehen wichtige Wahlen an, unter anderem in den USA und Indien im nächsten Jahr.
Faktenprüfer wie AFP betonen, dass sich die KI rasch zu einem wirksamen Instrument zur Destabilisierung von Wahlen entwickelt und dass wir schlecht darauf vorbereitet sind. Veronika Hincová Frankovská von der Fact-Checking-Organisation Demagog kommentierte: "Wir sind nicht so gut darauf vorbereitet, wie wir es sein sollten.
Das Team von Frankovská überprüfte die Herkunft der gefälschten slowakischen Audiodatei und konsultierte Experten, bevor es einen KI-Sprachklassifikator von Eleven Labs einsetzte, um ihre Echtheit zu ermitteln.
Trotz der Entwicklung der künstlichen Intelligenz sind wir bei der Erkennung von Fälschungen weitgehend auf den Menschen angewiesen.
KI-Fälschungen werden zu einem kritischen Thema
KI spielt bei der Verbreitung von Desinformationen eine immer größere Rolle, und der Nachweis, dass KI-Bilder, -Videos und -Aufnahmen gefälscht sind, ist eine Herkulesaufgabe.
Die meisten gefälschten Inhalte sind in den sozialen Medien verboten. Ben Walter, Vertreter von Meta, erklärte: "Unsere Gemeinschaftsstandards gelten für alle Inhalte... und wir werden gegen Inhalte vorgehen, die gegen diese Richtlinien verstoßen."
In der Praxis erweist es sich jedoch als schwierig, die Verbreitung von gefälschten Inhalten zu verhindern, und Maßnahmen wie KI Wasserzeichen sind bedauernswert ineffektiv.
Während sich Polen auf seine Wahlen vorbereitet, ist man besorgt über den möglichen Zustrom von KI-generierten Inhalten, und Desinformation sorgt bereits für Unruhe.
Jakub Śliż von der polnischen Fact-Checking-Gruppe, der Pravda Association, sagte: "Als Fact-Checking-Organisation haben wir keinen konkreten Plan, wie wir damit umgehen sollen."
Wenn Wahlergebnisse wie in der Slowakei von knappen Ergebnissen und erbitterten politischen Dialogen abhängen, könnten die Auswirkungen von KI-generierten Desinformationen gravierend sein. Hinzu kommt, dass frühere Vorfälle von algorithmisch vergrößerter Desinformation, wie der Cambridge Analytica-Skandal, uns zeigen, dass einige Akteure in diese Taktiken verwickelt sein könnten.
Die US-Präsidentschaftswahlen 2016 waren bereits von Fehlinformationen geprägt, die von extremistischen Aktivisten, ausländischer Einmischung und irreführenden Nachrichtensendern verbreitet wurden.
Im Jahr 2020 wurden unbegründete Anschuldigungen wegen Wahlbetrugs laut, die eine demokratiefeindliche Bewegung stärkten, die die Ergebnisse zu kippen versuchte.
KI-gesteuerte Desinformation birgt nicht nur das Risiko, die Öffentlichkeit zu täuschen, sondern droht auch, ein ohnehin schon fragiles Informationsumfeld zu überfordern und ein Klima der Unwahrheit, des Misstrauens und der Täuschung zu schaffen.
"Der Grad des Vertrauens wird sinken, die Arbeit von Journalisten und anderen, die versuchen, tatsächliche Informationen zu verbreiten, wird schwieriger werden", erklärt Ben Winters, ein leitender Vertreter des Electronic Privacy Information Center.
Neue Werkzeuge für alte Taktiken
Stellen Sie sich eine Welt vor, in der manipulative Inhalte zu vernachlässigbaren Kosten und mit solcher Leichtigkeit produziert werden, dass sie alltäglich werden.
Tech-gestützte Fehlinformationen sind kein neues Phänomen, aber KI-Tools sind perfekt geeignet, um solche Taktiken zu verstärken.
Es gab bereits zahlreiche Vorgeplänkel, die auf das Kommende hinweisen. Zu Beginn des Jahres wurde ein KI-generiertes Bild eines Pentagons Die Explosion wirkte sich spürbar auf die Aktienmärkte aus, wenn auch nur für wenige Minuten, bevor die Nutzer der sozialen Medien die viralen Bilder als Fälschung entlarvten.
KI-generierte Bilder, die scheinbar Donald Trump bei der Konfrontation mit der Polizei zeigen, fanden im Internet großen Anklang, und das Republican National Committee schaltete eine vollständig KI-generierte Werbung, in der Katastrophen für den Fall einer Wiederwahl Bidens vorausgesagt wurden.
Eine weitere virale Fälschung betrifft den Gouverneur von Florida und republikanischen Kandidaten Ron DeSantis, der verfälschte Bilder veröffentlichte, auf denen Ex-Präsident Donald Trump in einem Umarmung mit Dr. Anthony Fauci.
X (damals Twitter) fügte dem ursprünglichen Tweet eine Markierung hinzu, die ihn als KI-manipuliert kennzeichnete.
Donald Trump wurde bekannt, indem er unzählige Menschen *im Fernsehen* feuerte.
Aber als es um Fauci ging... pic.twitter.com/7Lxwf75NQm
- DeSantis Kriegsraum 🐊 (@DeSantisWarRoom) 5. Juni 2023
Im Vereinigten Königreich wurde der Premierminister Rishi Sunak so manipuliert, dass er als ein minderwertiges Bier ausschenkensehr zur Verärgerung der Nutzer von X (damals Twitter), bevor die Echtheit des Bildes aufgedeckt wurde.
Außerhalb der politischen Arena haben die Menschen von Betrügern reingelegt die sich als ihre Freunde oder Familienmitglieder ausgeben.
Mehrere Frauen und sogar junge Mädchen sind Opfer von gefälschten "Sextortionen" geworden, bei denen Betrüger sie mit gefälschten Schimpfwortbildern erpressen - etwas, vor dem das FBI Anfang des Jahres gewarnt hat.
Stimmklone von Omar al-Bashir, dem ehemaligen sudanesischen Staatschef, erschien kürzlich auf TikTokund schüren damit die Flammen in einem Land, das sich im Bürgerkrieg befindet.
Die Liste der Beispiele lässt sich endlos fortsetzen, und es scheint, dass KI-Fälschungen Text, Bilder, Video und Audio beherrschen.
KI senkt die Messlatte für Desinformation
KI-gestützte Werkzeuge verstärken die traditionellen Wahlbeeinflussungstaktiken, sowohl in Bezug auf die Qualität als auch den Umfang.
Wie wir bei den slowakischen Wahlen gesehen haben, weist Josh Goldstein vom Center for Security and Emerging Technology der Georgetown University darauf hin, wie ausländische Akteure überzeugende Inhalte in der gewünschten Sprache erstellen können.
Er erklärte: "KI-generierte Bilder und Videos können viel schneller erstellt werden, als Faktenprüfer sie überprüfen und entlarven können."
Es besteht auch die Möglichkeit, KI für gezielte Massen-Desinformation zu nutzen. So nutzten beispielsweise zwei rechtsextreme Aktivisten Robocalls (automatisierte Telefonanrufe, die sich massenhaft an Menschen richten), um im vergangenen Jahr Wahlfehlinformationen an Tausende von schwarzen Wählern zu verbreiten.
Die USA rüsten sich für KI-Wahldesinformation
Im Jahr 2024 stehen mehrere wichtige Wahlen an, bei denen der Einfluss von KI-gestützten Desinformationskampagnen deutlich zu Tage treten wird.
Als Reaktion auf den wachsenden Einfluss der KI haben Tech-Giganten wie Google Maßnahmen ergriffen, wie z. B. die obligatorische Kennzeichnung von politischer Werbung mit KI-gestützten Inhalten.
Inzwischen berät der Kongress über KI-Vorschriften, und die Federal Election Commission (FEC) denkt über Regeln für den Einsatz von KI in der politischen Werbung nach.
Als Reaktion auf die wachsende Besorgnis über die trügerische Macht der KI hat die FEC hat Verordnungen vorgeschlagen über den Einsatz von KI für gefälschte Inhalte in politischen Kampagnen.
Diese einstimmige Entscheidung der FEC, die am 10. August bekannt gegeben wurde, führte zu einer 60-tägigen öffentlichen Konsultation mit Experten, Interessenvertretern und der breiten Öffentlichkeit.
Im Verlauf der Diskussionen innerhalb der FEC wies Lisa Gilbert, Vizepräsidentin von Public Citizen, auf die Notwendigkeit hin, die Gesetze zur "betrügerischen Falschdarstellung" im Zusammenhang mit KI-Fälschungen zu überdenken.
Während wir auf das Jahr 2024 zusteuern, rüsten neue KI-Modelle von Meta, OpenAI und anderen KI-Entwicklern die Menschen mit der Fähigkeit aus, enorm lebensechte Inhalte zu generieren, so dass dieses Problem nicht einfacher wird - im Gegenteil.
