Eksplisitte, falske bilder av Taylor Swift har utløst en voldsom debatt om AIs potensial for å skape og spre feilinformasjon.
I en tale midt i en kaskade av reaksjoner fra teknologibransjen og offentligheten tok Microsofts administrerende direktør Satya Nadella opp den urovekkende trenden med AI-genererte falske nakenbilder.
Under et eksklusivt intervju med NBC NewsNadella uttrykte sin bekymring over situasjonen, og beskrev spredningen av slikt innhold som "alarmerende og forferdelig".
Han understreket at det haster med å gjøre noe, og sa: "Jeg tror det påhviler oss å handle raskt på dette området." Nadella fremhevet viktigheten av å implementere strengere "beskyttelsestiltak" rundt AI-teknologi for å sikre tryggere innhold på nettet.
Problemet er at rekkverk rett og slett ikke fungerer så godt. Studie etter studie har avslørt hvordan de mest sofistikerte AI-modellene er sårbare for mange former for manipulasjon.
Nadella anerkjente innsatsen for å bekjempe "deep fakes", men understreket behovet for en global samfunnsmessig konsensus om når rettshåndhevelse og teknologiplattformer bør samarbeide om å styre innholdet.
Det kan være et skråplan for personvernet, og det er en tvilsom vinkling å overføre ansvaret for Big Techs produkter til politiet.
I mellomtiden har det vært fremgang i arbeidet med å spore skyldige i Taylor Swift-bildene, som kan stamme fra en rapport fra 404 Mediasom sporet bildene tilbake til en Telegram-gruppe som er kjent for å produsere pornografisk innhold uten samtykke.
Denne gruppen har tidligere anbefalt å lage slike bilder ved hjelp av Microsofts Designer-bildegenerator, som utnytter et smutthull i AI-sikkerhetsreglene.
Selv om det ikke er endelig bevist at Designer ble brukt i dette tilfellet, belyser det ineffektiviteten til dagens metoder for å begrense skade.
Microsoft sendte senere ut en uttalelse til NBC: "Vi tar disse rapportene svært alvorlig og er forpliktet til å tilby en trygg opplevelse for alle. Vi har undersøkt disse rapportene og har ikke vært i stand til å reprodusere de eksplisitte bildene i disse rapportene."
"Våre sikkerhetsfiltre for eksplisitt innhold var i gang, og vi har så langt ikke funnet noen bevis på at de ble omgått. Vi har av forsiktighetshensyn iverksatt tiltak for å styrke tekstfiltreringsanmodningene våre og ta tak i misbruk av tjenestene våre."
Utbredte reaksjoner
Responsen har ikke vært begrenset til teknologibransjen.
SAG-AFTRA, fagforeningen som representerer skuespillere og andre mediefolk, beskrev bildene av Taylor Swift som "opprørende, skadelig og dypt bekymringsfullt", og tok til orde for rettslige skritt.
Fagforeningen, som var involvert i den historiske Hollywood-skuespillerstreiken i fjor, støtter en omfattende AI-lovgivning, som fortsatt er svært mangelfull når det gjelder risikoer på kort sikt, som f.eks. dype forfalskninger.
I mellomtiden ble taggen #ProtectTaylorSwift en trend over hele verden da folk sluttet seg til fordømmelsen.
Selvtekt?
Taylor Swift støttes av millioner av "Swifties", som har et fryktinngytende rykte på seg for å konfrontere dem som snakker stygt om stjernen.
En X-profil ved navn Zubera Abdi, som ble identifisert som den kanadiske brukeren som potensielt spredte de AI-genererte NSFW-bildene av Swift, ble målet for en digital menneskejakt.
Abdi hånet selvsikkert: "Jeg bryr meg ikke om hvor mektige Swifties er, de vil aldri finne meg", og undervurderte besluttsomheten til Swifts fanbase.
Abdis trass ble kortvarig da Swifties mobiliserte og fant hans fulle navn, Zubear Mohamed Abdi.
zubear abdi aka @zvbear
toronto, ontario, kanada
studerte: Universitetet i Toronto Scarborough
Somalier, men bor i CanadaMen jeg trenger fortsatt en nøyaktig adresse. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25. januar 2024
Situasjonen eskalerte etter hvert som Abdis personlige informasjon ble delt blant Swifties, og en av dem kommenterte: "De har fått den fullstendige regjeringen (navn) i overskriftene nå, dawg, han er FERDIG."
En annen bruker, @Melodic_Lemons3, antydet de potensielle juridiske konsekvensene Abdi kunne møte, og bemerket: "Zubear Mohamed Abdi er ferdig", spesielt i lys av at Det hvite hus uttrykte bekymring over de eksplisitte AI-genererte bildene av Swift.
Zubear Mohamed Abdi er kokt https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26. januar 2024
I møte med de overveldende reaksjonene og utsiktene til juridiske problemer ga Abdi etter for presset, og valgte en "taktisk retrett" ved å gjøre kontoen sin privat.
"Nå har jeg med Swifties å gjøre. Et helt annet dyr", sa han. "Dette er en taktisk retrett, alle store hærer har gjort dette."
Abdi, hvis han var ansvarlig, har utvilsomt rotet med feil person her, men ikke alle ofre for dyp falsk kriminalitet har millioner av støttespillere i ryggen.
