Eksplicitte AI-genererede deep fake-billeder af popstjernen Taylor Swift blev for nylig spredt på de sociale medier og vakte stor opstandelse.
På trods af strenge regler mod sådant indhold viste disse billeder uden samtykke Swift i seksuelt eksplicitte stillinger og var live i 19 timer med over 27 millioner visninger og 260.000 likes, før kontoen blev suspenderet.
Hændelsen bidrager til en strøm af spørgsmål om effektiviteten af politikker for sociale medier mod dyb falsk misinformation.
Kan det stoppes? Tilsyneladende ikke. Så hvordan bekæmper vi det? AI-detekteringstjenester (svarende til faktatjekkere) og "Community Notes", der er knyttet til indlæg på X, er to mulige løsninger, men begge har deres mangler.
De eksplicitte billeder af Taylor Swift blev primært cirkuleret på den sociale medieplatform X, men fandt også vej til andre sociale medieplatforme, herunder Facebook, hvilket viser, hvordan kontroversielt AI-indhold spredes som en steppebrand.
En talsmand fra Meta reagerede på hændelsen og sagde: "Dette indhold er i strid med vores politikker, og vi fjerner det fra vores platforme og skrider ind over for de konti, der har lagt det ud. Vi fortsætter med at overvåge, og hvis vi identificerer yderligere krænkende indhold, fjerner vi det og træffer passende foranstaltninger."
Millioner af brugere gik ind på Reddit for at diskutere konsekvenserne af denne og andre nylige virale deep fake-hændelser, herunder et foto af Eiffeltårnet i brand.
Der er en TikTok-video i omløb, som er set millioner af gange, og som påstår, at Eiffeltårnet brænder. Eiffeltårnet er ikke i brand. pic.twitter.com/IxlsKOqOsI
- Alistair Coleman (@alistaircoleman) 22. januar 2024
Selv om mange ville opfatte disse billeder som helt åbenlyst falske, kan vi ikke gå ud fra, at den brede offentlighed er klar over det.
En kommentator på Reddit sagde om Taylor Swift-hændelsen: "Nu ved jeg, hvor mange mennesker der ikke ved, hvad deepfakes er", hvilket antyder en lav bevidsthed om problemet.
Brancheeksperter diskuterede også spørgsmålet med Ed Newton-Rex, tidligere direktør i Stability, og argumenterede for, at teknologivirksomheders "gung-ho"-attitude og dårlige engagement fra beslutningstagernes side bidrager til problemet.
Eksplicitte AI-deepfakes uden samtykke er resultatet af en lang række fejl.
- Den generative AI's "send så hurtigt som muligt"-kultur, uanset konsekvenserne
- Bevidst uvidenhed i AI-virksomheder om, hvad deres modeller bruges til
- En total tilsidesættelse af tillid og...- Ed Newton-Rex (@ednewtonrex) 26. januar 2024
Ben Decker fra Memetica, et digitalt efterforskningsbureau, kommenterede den manglende kontrol over AI's konsekvenser: "Dette er et godt eksempel på, hvordan AI bliver sluppet løs af en masse forbryderiske grunde, uden at der er nok sikkerhedsnet på plads til at beskytte det offentlige rum."
Han påpegede også manglerne i de sociale medievirksomheders strategier for overvågning af indhold.
Det forlyder, at Taylor Swift nu overvejer at lægge sag an mod den dybe falske pornoside, der hoster billederne.
Der har været mange lignende tilfælde af eksplicitte dybe forfalskninger, der for det meste involverer kvinder og børn, nogle gange med Hensigten med at bestikke folkogså kaldet "sexploitation".
AI-billeder af sexmisbrug af børn er den mørkeste og mest bekymrende konsekvens af billedgenererende teknologi. En amerikansk mand blev for nylig Dømt til 40 år i fængsel for at være i besiddelse af sådanne billeder.
I kølvandet på denne og andre lignende hændelser er der kommet flere opfordringer til at lovgive om denne form for AI-misbrug.
Den amerikanske repræsentant Joe Morelle beskrev spredningen af Swift-deepfakes som "rystende" og opfordrede til hurtig juridisk handling. Han bemærkede: "Det, der er sket med Taylor Swift, er ikke noget nyt", og understregede, at den slags indhold har en uforholdsmæssig stor indvirkning på kvinder.
Dyb falsk misinformation blev også diskuteret meget på Det Verdensøkonomiske Forum i Davos med stigende frygt for, at manipuleret indhold kan påvirke aktiemarkeder, valg og den offentlige mening.
Indsatsen for at bekæmpe deep fakes er i gang, og både startups og tech-giganter udvikler detektionsteknologier.
Intel har f.eks. lanceret et produkt, der kan opdage falske videoer med 96%-nøjagtighed.
Udfordringen er dog stort set uoverstigelig indtil videre, da teknologien udvikler sig hurtigt og spreder sig over hele internettet.
