I en undersøgelse foretaget af NBC News blev det afsløret, at populære søgemaskiner som Google og Microsofts Bing utilsigtet promoverer dybt falsk pornografi uden samtykke.
Deep fake-teknologi, som er blevet en fællesbetegnelse for enhver AI-applikation, der kan generere ekstremt virkelighedstro video, billeder og lyd.
Det er i stigende grad blevet brugt til at skabe pornografisk materiale uden samtykke, ofte rettet mod kvindelige berømtheder.
NBC News gennemførte søgninger på 36 populære kvindelige berømtheder sammen med udtrykket "deepfakes" på Google og Bing. Resultaterne var alarmerende: Google viste falske billeder uden samtykke i de øverste resultater for 34 af disse søgninger, mens Bing gjorde det for 35.
Desuden indeholdt disse søgeresultater ofte links til hjemmesider, der var kendt for at distribuere sådant deepfake-indhold.
Situationen forværres af, at søgning på udtryk som "falske nøgenbilleder" på disse platforme fører til adskillige links til oprettelse og visning af dyb falsk porno uden samtykke.
Juridiske eksperter, fortalere og ofre for denne teknologi har udtrykt alvorlig bekymring.
Deep fake-porno uden samtykke krænker ikke kun privatlivets fred, men bidrager også til seksuel objektivering og chikane af kvinder. I nogle tilfælde strækker deep fakes sig til sexmisbrug af børn, som stammer fra ulovlige billeder indeholdt i populære billeder. træningsdatabaser som LAION.
I øjeblikket har der ikke været nogen systematisk indsats fra Googles side for at identificere og fjerne disse materialer, og det er måske ikke realistisk muligt i nogen skala.
En talsmand for Google sagde: "Vi forstår, hvor belastende dette indhold kan være for mennesker, der er berørt af det, og vi arbejder aktivt på at bringe mere beskyttelse til søgning."
De understregede, at Googles søgealgoritmer er designet til at undgå uventet visning af skadeligt eller eksplicit indhold.
Microsoft har på den anden side en politik mod intime billeder uden samtykke (NCII) og inkluderer seksuelt eksplicitte deepfakes under denne kategori. Ofre kan rapportere sådant indhold, der vises i Bings søgeresultater.
En talsmand for Microsoft bemærkede: "Distribution af intime billeder uden samtykke er en grov krænkelse af privatlivets fred og værdighed med ødelæggende konsekvenser for ofrene."
Deep fakes er et komplekst aspekt af AI, som giver ondsindede aktører mulighed for at manipulere valgresultater, skabe kontrovers midt i begivenheder som krigen mellem Israel og Palæstina, og anstifter svindel.
Det er et uløseligt problem, da AI i sidste ende vil blive stort set umulig at skelne mellem deep fakes og ægte medier på pixelniveau.
