Im Jahr 2023 gab es eine Flut von gefälschten Bildern, die mit KI-Bildgeneratoren erstellt wurden, von einem gefälschten Bild einer Explosion im Pentagon bis hin zu Bildern von Kindesmissbrauch.
Die Deep-Fake-Technologie erzeugt auch robuste Kopien von praktisch jeder Stimme, von Johnny Cash singt Barbie Girl zu Gefälschte Reden des ehemaligen sudanesischen Präsidenten Omar al-Bashir.
Es überrascht daher vielleicht nicht, dass die ohnehin schon angespannte digitale Landschaft rund um den aktuellen Konflikt zwischen Israel und der Hamas von Fälschungen durchsetzt ist.
Insgesamt glauben Analysten, dass die KI-Fehlinformationen begrenzt sind - es gibt genug echte visuelle Inhalte, die in den sozialen Medien kursieren. Allerdings hat die bloße Aussicht auf KI-generierte Fälschungen dazu geführt, dass die Menschen die Legitimität authentischer Bilder, Videos und Audioclips in Frage stellen.
Dies wird als "Lügendividende" bezeichnet. Echte Inhalte können nun potenziell als KI-generiert abgetan werden, wodurch sie in den Augen der Betrachter zu Fälschungen werden.
Die sozialen Medien sind der perfekte Ort, an dem sich Misstrauen und Paranoia in Bezug auf digitale Inhalte wie ein Lauffeuer verbreiten - die Möglichkeit, etwas, das echt zu sein scheint, als Fälschung zu bezeichnen und umgekehrt, wird von vielen genutzt, um ihre Ansichten zu untermauern.
Bill Marcellino von der RAND Corporation unterstreicht dieses Dilemma: "Was passiert, wenn buchstäblich alles, was man sieht und was digital ist, synthetisch sein könnte?"
In ähnlicher Weise kommentierte Hany Farid, ein Spezialist für digitale Forensik und KI-Fehlinformationen, den Konflikt zwischen Israel und Hamas: "Selbst nach den Maßstäben des "Fog of War", an den wir gewöhnt sind, ist dieser Konflikt besonders chaotisch... Das Gespenst der Deepfakes ist jetzt viel, viel bedeutsamer - es braucht nicht Zehntausende, sondern nur ein paar, und dann vergiftet man den Brunnen und alles wird verdächtig."
Es ist bemerkenswert, wie schnell sich die Deep-Fake-Technologie entwickelt hat. Im Jahr 2022 war es noch einfach und intuitiv, Ungereimtheiten in KI-generierten Bildern zu erkennen, wohingegen es heute oft eine spezielle Analyse erfordert.
Je länger die emotional aufgeladenen Diskussionen über den Gazastreifen andauern, insbesondere auf den Plattformen der sozialen Medien, desto deutlicher wird die Erosion des Vertrauens.
Gefälschte Inhalte sorgen für Kontroversen und damit für Aufmerksamkeit
Das Problem mit fragwürdigen gefälschten Inhalten ist, dass sie Diskussionen und damit Eindrücke, Likes und Kommentare hervorrufen.
In einem Beitrag auf X, der 1,8 Millionen Mal aufgerufen wurde, wurden beispielsweise die Fans von Atletico Madrid falsch dargestellt mit einer riesigen palästinensischen Flagge. Die Nutzer wiesen auf die verzerrten Figuren auf dem Bild hin, die auf eine KI-Erzeugung hindeuten.
In einem anderen Beitrag eines mit der Hamas verbundenen Kontos auf der Plattform X wurde, wie die New York Times berichtet, ein Zeltlager für vertriebene Israelis mit einem falschen Flaggenmotiv falsch dargestellt. Dieser Beitrag wurde anschließend entfernt.
Größere Aufmerksamkeit und genauere Prüfung erhielten Aufnahmen, die keine offensichtlichen Anzeichen einer KI-Manipulation aufwiesen. Ein Beispiel dafür ist das Video eines Krankenhausdirektors aus Gaza, der eine Pressekonferenz abhält, die von einigen als "KI-generiert" bezeichnet wurde, obwohl mehrere Quellen das Ereignis aus verschiedenen Blickwinkeln aufgenommen haben.
In dem Bemühen, die Wahrheit von KI-generierten Inhalten zu trennen, haben sich einige Nutzer sozialer Medien an Erkennungstools gewandt. Diese Tools behaupten, digitale Manipulationen zu erkennen, haben sich aber als uneinheitlich und unzuverlässig erwiesen.
In den ersten Tagen des Konflikts teilte Premierminister Netanjahu eine Reihe von Bildern auf der Plattform X und behauptete, sie zeigten "entsetzliche Fotos von Babys, die von der Hamas ermordet und verbrannt wurden".
Als der konservative Kommentator Ben Shapiro die Aufmerksamkeit auf eines der Bilder auf Plattform X lenkte, sah er sich mit weit verbreiteten Vorwürfen konfrontiert, KI-generierte Inhalte zu verbreiten. Wir werden den Tweet aufgrund der grausamen Natur des Bildes nicht direkt einbetten, aber Sie können sich den Debatte über Shapiros Beitrag hier.
In einem Beitrag, der über 21 Millionen Mal aufgerufen wurde, bevor er gelöscht wurde, wurde behauptet, Beweise dafür zu haben, dass das Bild des Babys eine Fälschung sei, und ein Screenshot von AI or Not, einem Erkennungstool, gezeigt, auf dem das Bild als "von AI generiert" bezeichnet wurde.
Später revidierte das Unternehmen diese Einschätzung auf der Plattform X und erklärte, dass das Ergebnis aufgrund der Bildkomprimierung und der Veränderungen, die identifizierende Details verdeckten, "nicht schlüssig" war. Das Unternehmen gab außerdem bekannt, dass es sein Erkennungstool daraufhin verfeinert hat.
Wir verfolgen die Debatte auf Twitter, wie wir es immer bei kontroversen Fällen mit großer Öffentlichkeitswirkung tun. Wir haben mit unserem System bestätigt, dass das Ergebnis nicht schlüssig ist, weil das Foto komprimiert und verändert wurde, um das Namensschild unkenntlich zu machen. https://t.co/uZihVMD7Cq
- AI oder nicht (@Ai_or_Not) Oktober 13, 2023
Anatoly Kvitnitsky, CEO von AI oder nichtüber die ethischen Implikationen ihrer Technologie nachgedacht: "Wir sind zu dem Schluss gekommen, dass wir versuchen, Gutes zu tun, wir werden den Dienst aktiv halten und unser Bestes tun, um sicherzustellen, dass wir die Wahrheit verbreiten. Aber wir haben auch darüber nachgedacht, ob wir nicht noch mehr Verwirrung und Chaos stiften.
Das alles führt zu einer unglaublich verwirrenden Situation, die die ohnehin schon überforderten Gefühle noch verstärkt.
Künstliche Intelligenz (KI) kann der öffentlichen Debatte und der Wahrheit sowohl etwas geben als auch etwas wegnehmen. Wie stellen sich die Menschen auf die Präsenz von KI in den sozialen Medien ein, und können Technologieunternehmen jemals die Kontrolle zurückerlangen?
