I en undersökning av NBC News avslöjades att populära sökmotorer som Google och Microsofts Bing oavsiktligt främjar icke-konsensuell deep fake-pornografi.
Deep fake-teknik, som har blivit ett samlingsbegrepp för alla AI-applikationer som kan generera extremt verklighetstrogen video, bilder och ljud.
Det har i allt högre grad använts för att skapa pornografiskt material utan samtycke, ofta med kvinnliga kändisar som måltavla.
NBC News genomförde sökningar efter 36 populära kvinnliga kändisar tillsammans med termen "deepfakes" på Google och Bing. Resultaten var alarmerande: Google visade icke-konsensuella deep fake-bilder i toppresultaten för 34 av dessa sökningar, medan Bing gjorde det för 35.
Dessutom innehöll dessa sökresultat ofta länkar till webbplatser som var kända för att distribuera sådant deepfake-innehåll.
Situationen förvärras av det faktum att sökningar efter termer som "fake nudes" på dessa plattformar leder till många länkar för att skapa och visa icke samtycke djup falsk porr.
Juridiska experter, förespråkare och offer för denna teknik har uttryckt allvarliga farhågor.
Deep fake-porr utan samtycke kränker inte bara den personliga integriteten utan bidrar också till sexuell objektifiering och trakasserier av kvinnor. I vissa fall sträcker sig deep fakes till sexuella övergrepp mot barn, som härrör från olagliga bilder som finns i populära bilder utbildningsdatabaser som LAION.
För närvarande har Google inte gjort några systematiska ansträngningar för att identifiera och ta bort dessa material, och det kanske inte är realistiskt möjligt i någon skala.
En talesperson för Google sa: "Vi förstår hur upprörande det här innehållet kan vara för människor som påverkas av det, och vi arbetar aktivt för att ge fler skydd till sökfunktionen."
De betonade att Googles sökalgoritmer är utformade för att undvika oväntad visning av skadligt eller explicit innehåll.
Microsoft har å andra sidan en policy mot icke-konsensuella intima bilder (NCII) och inkluderar sexuellt explicita deepfakes i denna kategori. Offren kan rapportera sådant innehåll som visas i Bings sökresultat.
En talesman för Microsoft kommenterade: "Distributionen av intima bilder utan samtycke är en grov kränkning av den personliga integriteten och värdigheten med förödande effekter för offren."
Deep fakes är en komplex aspekt av AI och erbjuder ett sätt för illasinnade aktörer att manipulera valresultat, skapa kontroverser i samband med händelser som kriget mellan Israel och Palestina, och anstifta bedrägerier.
Det här är en svårlöst fråga, eftersom AI så småningom kommer att göra det praktiskt taget omöjligt att skilja djupa förfalskningar från äkta media på pixelnivå.
