Explizite, tief gefälschte Bilder von Taylor Swift haben eine heftige Debatte über das Potenzial von KI für die Erstellung und Verbreitung von Fehlinformationen ausgelöst.
Inmitten einer Kaskade von Reaktionen aus der Tech-Branche und der Öffentlichkeit sprach Microsoft-CEO Satya Nadella über den beunruhigenden Trend der von KI generierten gefälschten Nacktbilder.
In einem exklusiven Interview mit NBC-NachrichtenNadella äußerte sich besorgt über die Situation und bezeichnete die Verbreitung solcher Inhalte als "alarmierend und schrecklich".
Er betonte den dringenden Handlungsbedarf und sagte: "Ich denke, wir sollten hier schnell handeln". Nadella betonte, wie wichtig es ist, strengere "Leitplanken" für die KI-Technologie einzuführen, um sicherere Online-Inhalte zu gewährleisten.
Das Problem ist, dass die Leitplanken einfach nicht so gut funktionieren. Studie nach Studie hat aufgedeckt, dass die ausgefeiltesten KI-Modelle für zahlreiche Formen der Manipulation anfällig sind.
Nadella bestätigte die Bemühungen zur Bekämpfung von Fälschungen, betonte jedoch, dass ein globaler gesellschaftlicher Konsens darüber erforderlich sei, wann Strafverfolgungsbehörden und Technologieplattformen zusammenarbeiten sollten, um Inhalte zu kontrollieren.
Dies könnte eine Gefahr für die Privatsphäre darstellen, und die Übertragung der Verantwortung für die Produkte von Big Tech auf die Strafverfolgungsbehörden ist ein fragwürdiger Ansatz.
In der Zwischenzeit gab es Fortschritte bei der Rückverfolgung der Täter der Taylor Swift-Bilderdie möglicherweise auf einen Bericht von 404 Mediendie die Bilder zu einer Telegram-Gruppe zurückverfolgt hat, die dafür bekannt ist, dass sie pornografische Inhalte produziert, die nicht konsensfähig sind.
Diese Gruppe hat zuvor empfohlen, solche Bilder mit dem Microsoft Designer Bildgenerator zu erstellen und dabei eine Lücke in den KI-Leitplanken auszunutzen.
Es ist zwar nicht endgültig bewiesen, dass in diesem Fall Designer verwendet wurden, aber es zeigt, wie unwirksam die derzeitigen Methoden zur Schadensbegrenzung sind.
Microsoft gab später eine Erklärung gegenüber NBC ab: "Wir nehmen diese Berichte sehr ernst und sind bestrebt, ein sicheres Erlebnis für alle zu bieten. Wir haben diese Berichte untersucht und waren nicht in der Lage, die expliziten Bilder in diesen Berichten zu reproduzieren".
"Unsere Sicherheitsfilter für explizite Inhalte waren in Betrieb, und wir haben bisher keine Hinweise darauf gefunden, dass sie umgangen wurden. Aus reiner Vorsicht haben wir Schritte unternommen, um unsere Textfilteraufforderungen zu verstärken und den Missbrauch unserer Dienste zu bekämpfen".
Weitverbreitete Reaktionen
Die Reaktion war nicht auf die Technologiebranche beschränkt.
SAG-AFTRA, die Gewerkschaft für Schauspieler und andere Medienschaffende, beschrieb die Bilder von Taylor Swift als "beunruhigend, verletzend und zutiefst besorgniserregend" und sprach sich für rechtliche Schritte aus.
Die Gewerkschaft, die im vergangenen Jahr in den geschichtsträchtigen Streik der Hollywood-Schauspieler verwickelt war, befürwortet eine umfassende KI-Gesetzgebung, die jedoch noch immer schmerzlich vermisst wird, wenn es um kurzfristige Risiken wie tiefe Fälschungen geht.
Unterdessen verbreitete sich der Tag #ProtectTaylorSwift weltweit und die Menschen schlossen sich der Verurteilung an.
Selbstjustiz?
Taylor Swift wird von Millionen von "Swifties" unterstützt, die einen furchterregenden Ruf haben, wenn es darum geht, diejenigen zu konfrontieren, die schlecht über den Star sprechen.
Ein X-Profil namens Zubera Abdi, der als der kanadische Nutzer identifiziert wurde, der möglicherweise die von der KI generierten NSFW-Bilder von Swift verbreitet hat, wurde zum Ziel einer digitalen Fahndung.
Abdi spottete: "Es ist mir egal, wie mächtig die Swifties sind, sie werden mich nie finden" und unterschätzte damit die Entschlossenheit von Swifts Fangemeinde.
Abdis Trotz war nur von kurzer Dauer, denn die Swifties machten mobil und fanden seinen vollen Namen, Zubear Mohamed Abdi.
zubear abdi alias @zvbear
toronto, ontario, kanada
studierte: Universität von Toronto Scarborough
Somalierin, lebt aber in KanadaIch brauche allerdings noch eine genaue Adresse. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25. Januar 2024
Die Situation eskalierte, als Abdis persönliche Informationen unter den Swifties geteilt wurden, wobei einer kommentierte: "Sie haben die ganze Regierung (Name) in die Schlagzeilen gebracht, jetzt ist er am Ende".
Ein anderer Nutzer, @Melodic_Lemons3, wies auf die möglichen rechtlichen Konsequenzen hin, die Abdi drohen könnten, und bemerkte: "Zubear Mohamed Abdi is cooked" (Zubar Mohamed Abdi wird gekocht), vor allem, da das Weiße Haus seine Besorgnis über die expliziten KI-generierten Bilder von Swift zum Ausdruck brachte.
Zubear Mohamed Abdi wird gekocht https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26. Januar 2024
Angesichts der überwältigenden Reaktionen und der Aussicht auf rechtliche Probleme gab Abdi dem Druck nach und entschied sich für einen "taktischen Rückzug", indem er sein Konto privat machte.
"Jetzt habe ich es mit Swifties zu tun. Ein ganz anderes Tier", sagte er. "Das ist ein taktischer Rückzug, jede große Armee hat das getan."
Wenn Abdi dafür verantwortlich war, hat er sich zweifellos mit der falschen Person angelegt, aber nicht jedes Opfer eines schwerwiegenden Verbrechens hat Millionen von Anhängern, die es unterstützen.
