Auf TikTok sind kürzlich mehrere KI-generierte, tief gefälschte Videos von ermordeten und missbrauchten Kindern erschienen.
Eines der Videos, das der Sender als "lehrreich" bezeichnet, beschreibt das tragische Schicksal von James Bulger wurde 1993 im Alter von 10 Jahren von Jon Venables und Robert Thompson in Merseyside, Liverpool, entführt.
Bulger, der damals erst 2 Jahre alt war, wurde grausam misshandelt und gefoltert, bevor er in der Nähe einer Bahnlinie tot aufgefunden wurde. Venables und Thompson wurden die jüngsten wegen Mordes verurteilten Personen im Vereinigten Königreich und die jüngsten verurteilten Mörder des 20.
Denise Fergus, die Mutter des ermordeten Sohnes James Bulger, hat die von einer künstlichen Intelligenz generierten Videos ihres verstorbenen Sohnes als "mehr als krank" verurteilt.
Diese Videos waren Teil einer Serie, in der KI-Technologie eingesetzt wurde, um vermisste oder ermordete Kinder nachzustellen, darunter Madeleine McCann, die 2007 während eines Familienurlaubs verschwand, der 11-jährige Rhys Jones, der irrtümlich von einem Bandenmitglied in Liverpool erschossen wurde, und Peter Connolly, auch bekannt als "Baby P", der an Vernachlässigung und Missbrauch starb.
Einige dieser Videos erreichten vor ihrer Entfernung Zehntausende von Aufrufen und wurden ohne Inhaltswarnung hochgeladen.
Im Gespräch mit Der SpiegelDenise Fergus, die Mutter von James Bulger, nannte die Videos "ekelhaft".
Fergus merkte an, dass sie zwar kein Problem damit habe, über die Fälle zu berichten, dass sie es aber "absolut widerlich" finde, das Gesicht ihres verstorbenen Sohnes auf diese Weise verwendet zu sehen.
"Das ist die Wiederbelebung eines toten Kindes. Das ist mehr als krank", erklärte sie. "Wer kann da sitzen und an so etwas denken?", fragte sie und fügte hinzu: "Das ist nicht fair gegenüber den Menschen, die Kinder oder irgendjemanden verloren haben."
Ihr Ehemann, Stuart Fergus, kontaktierte das Konto, das offenbar auf den Philippinen ansässig ist, und bat um die Entfernung der beleidigenden Inhalte. In der Antwort, die er erhielt, hieß es, man wolle "niemanden beleidigen" und wolle sicherstellen, dass solche Vorfälle "nie wieder vorkommen", zusammen mit einem Aufruf zur Unterstützung und zum Teilen ihrer Seite.
TikTok reagierte auf die Kontroverse, gegenüber der BBC dass die beanstandeten Videos entfernt worden seien und dass es in der App "keinen Platz" für solche Inhalte gebe.
Ein Sprecher von TikTok wies auf die Community-Richtlinien des Unternehmens hin, die besagen, dass "synthetische Medien, die das Bildnis eines jungen Menschen enthalten, nicht erlaubt sind" und versprach, solche Inhalte weiterhin zu entfernen.
Tiefe Fälschungen nehmen eine unheimliche Wendung
KI-generierte tiefe Fälschungen wurden eingesetzt für Sextortion, Betrügereienund missbräuchlich erzeugendPädophile Bilder.
Es wird immer häufiger behauptet, dass die futuristischen Risiken der KI - wie die Übernahme der Kontrolle über kritische Infrastrukturen oder die Möglichkeit, sich gegen ihre Schöpfer zu wenden - von den unmittelbaren Auswirkungen wie Fälschungen, Desinformation und Internetkriminalität ablenken.
Da die Fälschungen immer ausgefeilter werden, wird es immer schwieriger, das Digitale vom Physischen zu unterscheiden. Wie bei so vielen Dingen in der Welt der KI sind auch hier die Auswirkungen beispiellos.
