Explicita djupfalska bilder av Taylor Swift har lett till en häftig debatt om AI:s potential att skapa och sprida felaktig information.
Under en kaskad av reaktioner från teknikindustrin och allmänheten tog Microsofts VD Satya Nadella upp den oroande trenden med AI-genererade falska nakenbilder.
Under en exklusiv intervju med NBC NyheterNadella uttryckte sin oro över situationen och beskrev spridningen av sådant innehåll som "alarmerande och fruktansvärt".
Han betonade det brådskande behovet av åtgärder och sa: "Jag tycker att det åligger oss att agera snabbt på detta." Nadella betonade vikten av att implementera striktare "skyddsräcken" kring AI-teknik för att säkerställa säkrare innehåll på nätet.
Problemet är att skyddsräcken helt enkelt inte fungerar så bra. Studie efter studie har avslöjat hur de mest sofistikerade AI-modellerna är sårbara för många former av manipulation.
Nadella erkände ansträngningarna för att ta itu med djupa förfalskningar men betonade behovet av ett globalt samhälleligt samförstånd om när brottsbekämpning och teknikplattformar ska samarbeta för att styra innehåll.
Det skulle kunna vara ett sluttande plan för integriteten, och att överföra ansvaret för Big Techs produkter till brottsbekämpande myndigheter är en tveksam vinkel.
Under tiden har det gjorts framsteg med att spåra skyldiga till Taylor Swift-bildernasom kan härröra från en rapport från 404 Mediersom spårade bilderna tillbaka till en Telegram-grupp som är känd för att producera pornografiskt innehåll utan samtycke.
Denna grupp har tidigare rekommenderat att sådana bilder skapas med hjälp av Microsofts bildgenerator Designer, vilket utnyttjar ett kryphål i AI-reglerna.
Även om det inte är slutgiltigt bevisat att Designer användes i det här fallet, belyser det ineffektiviteten hos nuvarande metoder för att begränsa skador.
Microsoft utfärdade senare ett uttalande till NBC: "Vi tar dessa rapporter på stort allvar och är fast beslutna att tillhandahålla en säker upplevelse för alla. Vi har undersökt dessa rapporter och har inte kunnat reproducera de explicita bilderna i dessa rapporter."
"Våra innehållssäkerhetsfilter för explicit innehåll var igång och vi har hittills inte hittat några bevis för att de kringgåtts. Av försiktighetsskäl har vi vidtagit åtgärder för att stärka våra textfiltreringsmeddelanden och ta itu med missbruket av våra tjänster."
Utbredda reaktioner
Reaktionen har inte varit begränsad till teknikbranschen.
SAG-AFTRA, fackförbundet som representerar skådespelare och andra mediearbetare, beskrev bilderna av Taylor Swift som "upprörande, skadlig och djupt oroande" och uppmanade till rättsliga åtgärder.
Facket, som var inblandat i den historiska strejken bland Hollywoodskådespelare förra året, stöder omfattande AI-lagstiftning, som fortfarande är mycket bristfällig när det gäller kortsiktiga risker som djupa förfalskningar.
Under tiden trendade taggen #ProtectTaylorSwift över hela världen när människor anslöt sig till fördömandet.
Medborgarrätt?
Taylor Swift backas upp av miljontals "Swifties", som har ett fruktat rykte om sig att konfrontera dem som talar illa om stjärnan.
En X-profil vid namn Zubera Abdi, som identifierats som den kanadensiska användare som potentiellt spridit de AI-genererade NSFW-bilderna av Swift, blev föremål för en digital människojakt.
Abdi sa självsäkert: "Jag bryr mig inte om hur mäktiga Swifties är, de kommer aldrig att hitta mig", och underskattade beslutsamheten hos Swifts fanbase.
Abdis trots var kortlivat eftersom Swifties mobiliserade och hittade hans fullständiga namn, Zubear Mohamed Abdi.
zubear abdi aka @zvbear
toronto, ontario, kanada
studerade: University of Toronto Scarborough
Somalier men bor i KanadaMen jag behöver fortfarande en exakt adress. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 januari 2024
Situationen eskalerade när Abdis personuppgifter spreds bland Swifties, och en person kommenterade: "De har fått den där fulla regeringen (namn) i rubrikerna nu dawg han är FINISHED."
En annan användare, @Melodic_Lemons3, antydde de potentiella juridiska konsekvenserna som Abdi kunde möta och noterade: "Zubear Mohamed Abdi är kokt", särskilt mot bakgrund av att Vita huset uttryckte oro över de explicita AI-genererade bilderna av Swift.
Zubear Mohamed Abdi är tillagad https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 januari 2024
Inför den överväldigande backlashen och utsikterna till juridiska problem gav Abdi efter för trycket och valde en "taktisk reträtt" genom att göra sitt konto privat.
"Nu har jag att göra med Swifties. Ett helt annat djur", sa han. "Det här är en taktisk reträtt, det har alla stora arméer gjort."
Abdi, om han var ansvarig, har utan tvekan bråkat med fel person här, men inte alla offer för djupt falska brott har miljontals supportrar som stöder dem.
