Eksplisitte AI-genererte deep fake-bilder av popstjernen Taylor Swift ble nylig spredt på sosiale medier, noe som skapte stor oppstandelse.
Til tross for strenge regler mot slikt innhold, viste disse bildene Swift i seksuelt eksplisitte positurer og lå ute i 19 timer, med over 27 millioner visninger og 260 000 likes før kontoen ble suspendert.
Hendelsen bidrar til en flom av spørsmål om effekten av retningslinjer for sosiale medier mot dyp falsk feilinformasjon.
Kan det stoppes? Tilsynelatende ikke. Så hvordan bekjemper vi det? AI-deteksjonstjenester (som ligner på faktasjekkere) og "Community Notes", som knyttes til innlegg på X, er to mulige løsninger, men begge har sine svakheter.
De eksplisitte bildene av Taylor Swift ble først og fremst spredt på den sosiale medieplattformen X, men også funnet veien til andre sosiale medier, deriblant Facebook, noe som viser hvordan kontroversielt AI-innhold sprer seg som ild i tørt gress.
En talsperson fra Meta svarte på hendelsen og sa: "Dette innholdet bryter med retningslinjene våre, og vi fjerner det fra plattformene våre og iverksetter tiltak mot kontoer som har lagt det ut. Vi fortsetter å overvåke, og hvis vi identifiserer ytterligere krenkende innhold, vil vi fjerne det og iverksette passende tiltak."
Millioner av brukere tok til Reddit for å diskutere konsekvensene av denne og andre nylige virale deep fake-hendelser, deriblant et bilde av Eiffeltårnet i brann.
Det går en TikTok-video som er sett millioner av ganger, der det hevdes at Eiffeltårnet står i brann. Eiffeltårnet står ikke i brann. pic.twitter.com/IxlsKOqOsI
- Alistair Coleman (@alistaircoleman) 22. januar 2024
Selv om mange vil oppfatte disse bildene som helt åpenbart falske, kan vi ikke gå ut fra at de er kjent blant folk flest.
En kommentator på Reddit sa om Taylor Swift-hendelsen: "Nå vet jeg hvor mange som ikke vet hva deepfakes er", noe som tyder på lav bevissthet om problemet.
Bransjeeksperter diskuterte også problemet med Ed Newton-Rex, tidligere direktør i Stability, og hevdet at teknologiselskapenes "gung-ho"-holdninger og dårlige engasjement blant beslutningstakere bidrar til problemet.
Eksplisitte, ikke-samtykkebaserte AI-deepfakes er et resultat av en hel rekke feil.
- Den generative AI-kulturen er preget av en "skip-så-hurtig-som-mulig"-kultur, uansett konsekvenser
- Villig uvitenhet i AI-selskaper om hva modellene deres brukes til
- En total tilsidesettelse av tillit og...- Ed Newton-Rex (@ednewtonrex) 26. januar 2024
Ben Decker fra Memetica, et digitalt etterforskningsbyrå, kommenterte mangelen på kontroll over AIs innvirkning: "Dette er et godt eksempel på hvordan kunstig intelligens slippes løs av mange skumle grunner, uten at det er nok rekkverk på plass for å beskytte det offentlige rom."
Han påpekte også manglene i sosiale medieselskapers strategier for innholdsovervåking.
Rapporter tyder på at Taylor Swift nå vurderer rettslige skritt mot den falske pornosiden som er vert for bildene.
Det har vært mange lignende tilfeller av eksplisitte, dype forfalskninger, for det meste av kvinner og barn, noen ganger med hensikt å bestikke folkogså kalt "sexploitation".
AI-bilder av seksuelle overgrep mot barn er den mørkeste og mest bekymringsfulle effekten av bildegenereringsteknologi. En amerikansk mann ble nylig Dømt til 40 års fengsel i fengsel for besittelse av slike bilder.
I kjølvannet av denne og andre lignende hendelser har det kommet stadig flere krav om lovgivning for å håndtere denne formen for misbruk av kunstig intelligens.
Den amerikanske representanten Joe Morelle beskrev spredningen av Swifts deepfakes som "forferdelig", og tok til orde for at det haster med rettslige tiltak. Han bemerket: "Det som har skjedd med Taylor Swift er ikke noe nytt", og understreket at slikt innhold har en uforholdsmessig stor innvirkning på kvinner.
Dyp falsk feilinformasjon ble også mye diskutert på Verdens økonomiske forum i Davos med stigende frykt for at manipulert innhold skal kunne påvirke aksjemarkeder, valg og opinionen.
Arbeidet med å bekjempe dyp forfalskning er i gang, og både oppstartsbedrifter og teknologigiganter utvikler teknologi for å oppdage forfalskninger.
Intel lanserte for eksempel et produkt som er i stand til å oppdage falske videoer med 96% nøyaktighet.
Utfordringen er imidlertid stort sett uoverkommelig enn så lenge, ettersom teknologien utvikler seg raskt og sprer seg over hele Internett.
