Fälschungen sind schnell zu einem ernsten sozialen und politischen Problem und zu einer möglichen Bedrohung der Integrität von Wahlen geworden.
Kurz vor den knappen Wahlen in der Slowakei hat ein umstrittener Audioclip In den sozialen Medien tauchte eine Stimme auf, die dem Vorsitzenden der slowakischen Fortschrittspartei, Michal Šimečka, verblüffend ähnlich ist und von einem Plan zur Manipulation der Wahl spricht.
Aufgrund der zeitlichen Nähe des Beitrags zur Wahl war es schwierig, die Menschen zu warnen, dass es sich um eine Fälschung handelte.
Kurz darauf kam es zu einer weiteren Kontroverse, als der Vorsitzende der britischen Labour-Partei in einem auf X geposteten Audioclip Schimpfwörter brüllte. In dem dazugehörigen Posting hieß es: "Ich habe Tonaufnahmen von Keir Starmer erhalten, wie er seine Mitarbeiter auf dem [Labour-Partei-]Kongress beschimpft", hieß es auf dem X-Account. "Dieser widerliche Tyrann ist dabei, unser nächster Premierminister zu werden".
Im gleichen Zeitraum wurde ein TikTok-Konto entfernt, nachdem festgestellt worden war, dass es Herstellung gefälschter Clips des inhaftierten ehemaligen sudanesischen Präsidenten Omar Al-Bashir und schürte damit das Feuer in einem Land, das sich bereits im Bürgerkrieg befindet.
Die Clips in allen drei Fällen hatten etwas gemeinsam: Sie waren gefälscht und wahrscheinlich mit KI erstellt.
Während KI-Videos und -Bilder allgegenwärtig sind und ihre eigenen Probleme mit sich bringen, sind gefälschte Audioclips schwieriger zu erkennen und schlüpfen oft durch das Netz. Die Stimmen selbst sind in der Regel sehr authentisch, wie Jack Brewster von NewsGuard hervorhob: "Obama sieht immer noch ein wenig plastisch aus, wenn schlechte Schauspieler sein Gesicht verwenden. Aber der Ton seiner Stimme ist ziemlich gut - und ich denke, das ist hier der große Unterschied".
Angesichts dieser Bedenken schlug eine Gruppe von Senatoren den "No Fakes Act" vor, einen Gesetzentwurf, der darauf abzielt, diejenigen zu bestrafen, die von KI erstellte Audio- oder Videodateien ohne die Zustimmung der Originalperson produzieren oder weitergeben.
Wie Hany Farid, Professor für digitale Forensik an der University of California in Berkeley, sagt"Das ist nicht hypothetisch. Es geht um Gewalt, es geht um Wahlfälschung, es geht um Betrug - [das hat] reale Folgen für den Einzelnen, für die Gesellschaft und für die Demokratie."
Anwendungen zum Klonen von Stimmen haben sich dramatisch weiterentwickelt. Plattformen wie Eleven Labs bieten Tools an, mit denen sich für eine monatliche Gebühr von nur $5 eine "gefälschte" Stimme erstellen lässt.
Hany Farid, der die Verantwortlichkeit der Social-Media-Giganten unterstrich, erklärte: "Sie könnten den Hahn jetzt zudrehen, wenn sie wollten. Aber das ist schlecht fürs Geschäft".
Können KI-Fälschungen wirklich Wahlen beeinflussen?
Deep Fakes haben bereits ihre Auswirkungen in der realen Welt bewiesen, als ein gefälschtes Bild einer Explosion im Pentagon Anfang des Jahres die Märkte vorübergehend einbrechen ließ, wenn auch nur für ein paar Minuten.
Diese gefälschten Clips, Videos und Videos bedrohen eine ohnehin schon fragile Informationslandschaft, in der das Misstrauen oft groß und die Gewinnspannen gering sind.
Auch wenn es außerordentlich schwierig ist, die tatsächlichen Auswirkungen von KI-Deep-Fakes auf den politischen Diskurs und das Wahlverhalten zu beurteilen, so senkt es doch die Messlatte für Desinformation.
Ben Winters, ein leitender Vertreter des Electronic Privacy Information Center, erklärt: "Der Grad des Vertrauens wird sinken, die Arbeit von Journalisten und anderen, die versuchen, aktuelle Informationen zu verbreiten, wird schwieriger werden."
Auch wenn es zu den üblichen Taktiken dieser Kampagnen gehört, Politiker fälschlicherweise in Szenarien zu verwickeln, die ihrem Ruf schaden, könnten sie auch zu einer "Lügnerdividende" führen, bei der es möglich wird, wahrheitsgemäße Behauptungen als Fälschungen zu widerlegen.
Die Bekämpfung von KI-Fälschungen erfordert eine Kombination aus fortschrittlicheren KI-Inhaltsfiltern in sozialen Medien und öffentlicher Aufklärung. Die Qualität der Fälschungen selbst wird sich jedoch nur noch verbessern.
