Während im Sudan ein erbitterter Bürgerkrieg tobt, schürt eine KI-gesteuerte TikTok-Kampagne mit KI das Feuer mit Fehlinformationen.
Durch den Einsatz von künstlicher Intelligenz, die die Stimme des ehemaligen Präsidenten Omar al-Bashir nachahmt, hat diese Kampagne Zweifel und Verwirrung in einem Land gesät, das sich bereits in Turbulenzen befindet.
Seit Ende August hat ein anonymer TikTok-Nutzer sogenannte "durchgesickerte Aufnahmen" von al-Bashir hochgeladen. Die Stimme, die auf diesen Aufnahmen zu hören ist, ist jedoch höchstwahrscheinlich nicht authentisch.
Obwohl Anfang des Jahres berichtet wurde, dass Al-Bashir, dem schwere Kriegsverbrechen vorgeworfen werden und der 2019 entmachtet werden soll, in einem Militärkrankenhaus festgehalten wird, ist er weiterhin auf der Flucht.
Seine lange Abwesenheit von der Öffentlichkeit in Verbindung mit diesen mysteriösen Aufnahmen hat die Unsicherheit im Sudan noch vergrößert.
Im Hinblick auf die Folgen solcher irreführenden Kampagnen betonen die Experten den wachsenden Einfluss der Technologie bei der Verbreitung von Fehlinformationen.
Gefälschte Aufnahmen beeinträchtigten auch die die jüngsten slowakischen Wahlenund viele sind besorgt über den Einfluss der Technologie auf die bevorstehenden Wahlen in den USA und Indien im nächsten Jahr.
Hany Farid von der University of California, Berkeley, äußert sich besorgt: "Ausgefeilte Akteure sind schon seit Jahrzehnten in der Lage, die Realität zu verzerren, aber jetzt kann auch eine Durchschnittsperson mit wenig oder gar keinem technischen Know-how schnell und einfach gefälschte Inhalte erstellen."
Die Stimme des Sudan ist wahrscheinlich eine KI-Fälschung
Bei näherer Betrachtung des TikTok-Kanals scheint "The Voice of Sudan" eine Mischung aus verschiedenen Inhaltsquellen zu sein - ältere Pressekonferenzen, Nachrichtenschnipsel und die umstrittenen "durchgesickerten Aufnahmen", die al-Bashir zugeschrieben werden.
Viele dieser Clips weisen die typische Körnigkeit auf, die man von heimlich aufgezeichneten Gesprächen erwarten würde, was die Wahrheit noch mehr verwischt.
Das BBC-Rechercheteam in Zusammenarbeit mit sudanesischen Experten, über die Authentizität dieser Aufnahmen. Erste Ergebnisse deuten darauf hin, dass die Stimme zwar eine verblüffende Ähnlichkeit mit der von al-Bashir aufweist, aber die Wahrscheinlichkeit, dass es sich tatsächlich um ihn handelt, gering ist.
Die Beweise deuten eher auf den Einsatz von KI-Stimmumwandlungssoftware hin, die jede Stimme in eine andere umwandeln kann.
Nachfolgende Untersuchungen brachten einige dieser Aufnahmen mit früheren Sendungen eines bekannten sudanesischen politischen Kommentators mit Sitz in den USA in Verbindung.
Die Rolle und die Absichten von "The Voice of Sudan" bleiben nebulös. Der Sender könnte versuchen, al-Bashirs Verwicklung in laufende Angelegenheiten anzudeuten, er könnte aber auch eine bestimmte politische Agenda verfolgen, indem er seine Stimme imitiert. Die wahren Beweggründe des Senders bleiben jedoch im Dunkeln.
Nach einer gründlichen Prüfung und dem Erkennen des potenziellen Schadens solcher Inhalte hat TikTok entschiedene Maßnahmen ergriffen.
Die Plattform entfernte "The Voice of Sudan" wegen Verstoßes gegen die Community-Richtlinien und zeigte damit eine proaktive Haltung im Kampf gegen die tiefgreifenden Fälschungen, die auf Social-Media-Plattformen immer schwerer zu vermeiden sind.
