Eksplicitte, dybt falske billeder af Taylor Swift har sat gang i en voldsom debat om AI's potentiale til at skabe og sprede misinformation.
Midt i en kaskade af reaktioner fra teknologibranchen og offentligheden talte Microsofts CEO Satya Nadella om den foruroligende tendens med AI-genererede falske nøgenbilleder.
Under et eksklusivt interview med NBC NyhederNadella udtrykte sin bekymring over situationen og beskrev spredningen af sådant indhold som "alarmerende og forfærdelig".
Han understregede det presserende behov for handling og sagde: "Jeg synes, det er på sin plads, at vi handler hurtigt." Nadella understregede vigtigheden af at implementere strengere "sikkerhedsforanstaltninger" omkring AI-teknologi for at sikre mere sikkert onlineindhold.
Problemet er, at autoværn simpelthen ikke fungerer så godt. Studie efter studie har afsløret, hvordan de mest sofistikerede AI-modeller er sårbare over for mange former for manipulation.
Nadella anerkendte indsatsen for at tackle deep fakes, men understregede behovet for en global samfundsmæssig konsensus om, hvornår retshåndhævelse og tech-platforme skal samarbejde om at styre indhold.
Det kan være en glidebane for privatlivets fred, og det er en tvivlsom vinkel at overføre ansvaret for Big Techs produkter til politiet.
I mellemtiden er der sket fremskridt med at spore skyldige i Taylor Swift-billedernesom måske stammer fra en rapport fra 404 mediersom sporede billederne tilbage til en Telegram-gruppe, der er kendt for at producere pornografisk indhold uden samtykke.
Denne gruppe har tidligere anbefalet at skabe sådanne billeder ved hjælp af Microsofts Designer-billedgenerator, der udnytter et smuthul i AI-skærmene.
Selv om det ikke er endeligt bevist, at Designer blev brugt i dette tilfælde, understreger det ineffektiviteten af de nuværende metoder til at begrænse skader.
Microsoft udsendte senere en erklæring til NBC: "Vi tager disse rapporter meget alvorligt og er forpligtet til at give en sikker oplevelse for alle. Vi har undersøgt disse rapporter og har ikke været i stand til at gengive de eksplicitte billeder i disse rapporter."
"Vores sikkerhedsfiltre for eksplicit indhold kørte, og vi har indtil videre ikke fundet tegn på, at de er blevet omgået. Ud af en overflod af forsigtighed har vi taget skridt til at styrke vores tekstfiltreringsanmodninger og adressere misbrug af vores tjenester."
Udbredte reaktioner
Reaktionen har ikke været begrænset til teknologibranchen.
SAG-AFTRA, fagforeningen, der repræsenterer skuespillere og andre mediefolk, beskrev billederne af Taylor Swift som "oprørende, skadelig og dybt bekymrende" og opfordrede til retsforfølgelse.
Fagforeningen, som var involveret i den historiske Hollywood-skuespillerstrejke sidste år, støtter omfattende AI-lovgivning, som stadig mangler, når det drejer sig om kortsigtede risici som deep fakes.
I mellemtiden blev tagget #ProtectTaylorSwift en trend over hele verden, da folk sluttede sig til fordømmelsen.
Selvtægt?
Taylor Swift bakkes op af millioner af "Swifties", som har et frygtindgydende ry for at konfrontere dem, der taler dårligt om stjernen.
En X-profil ved navn Zubera Abdi, der blev identificeret som den canadiske bruger, der potentielt spredte de AI-genererede NSFW-billeder af Swift, blev målet for en digital menneskejagt.
Abdi hånede selvsikkert: "Jeg er ligeglad med, hvor stærke Swifties er, de finder mig aldrig", og undervurderede Swifts fanbasens beslutsomhed.
Abdis trodsighed var kortvarig, da Swifties mobiliserede og fandt hans fulde navn, Zubear Mohamed Abdi.
zubear abdi aka @zvbear
toronto, ontario, canada
studerede: University of Toronto Scarborough
Somalier, men bor i CanadaJeg har dog stadig brug for en præcis adresse. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿 ... (@theantiqueswift) 25. januar 2024
Situationen eskalerede, da Abdis personlige oplysninger blev delt vidt og bredt blandt swifties, og en kommenterede: "De har den fulde regering (navn) i overskrifterne nu, dawg, han er FÆRDIG."
En anden bruger, @Melodic_Lemons3, antydede de potentielle juridiske konsekvenser, som Abdi kunne blive udsat for, og skrev: "Zubear Mohamed Abdi er færdig", især i lyset af, at Det Hvide Hus har udtrykt bekymring over de eksplicitte AI-genererede billeder af Swift.
Zubear Mohamed Abdi er kogt https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26. januar 2024
Stillet over for den overvældende modreaktion og udsigten til juridiske problemer gav Abdi efter for presset og valgte en "taktisk tilbagetrækning" ved at gøre sin konto privat.
"Nu har jeg med swifties at gøre. Et helt andet dyr," sagde han. "Det er et taktisk tilbagetog, det har alle store hære gjort."
Hvis Abdi var ansvarlig, lagde han sig utvivlsomt ud med den forkerte person her, men ikke alle ofre for dybe, falske forbrydelser har millioner af støtter i ryggen.
