Framstående sociala medieplattformar - Facebook, Instagram och TikTok - har granskats för att ha visat annonser som öppet sexualiserar AI-avatarer.
Företag gör reklam för appar med fokus på vuxna via sexuellt explicita bilder och dialoger i sociala medier, varav vissa involverar sexualisering av barnliknande figurer.
Enligt uppgift från NBC NyheterI Sverige visar 35 apputvecklare sexuellt explicit reklam på sociala medier.
En anmärkningsvärd egenskap hos dessa annonser är deras tendens att missbruka barnkaraktärer, såsom SvampBob Fyrkant och Kakmonstret, för att marknadsföra innehåll för vuxna.
Det mest oroväckande är att vissa annonser innehåller AI-genererade karaktärer som liknar minderåriga, vanligtvis i anime-stil.
Det här är inte första gången AI-genererat innehåll används för att förvränga och manipulera riktlinjer och innehållsfilter - ett TikTok-konto fick nyligen kritik för att genererar animationer av mördade barn och låta dem läsa upp sina öden.
Meta och TikTok sade att de rensar bort dessa annonser från sina plattformar men har avstått från att kommentera hur annonserna undviker deras innehållsfilter.
Med största sannolikhet är innehållsfilter utbildade på explicit innehåll som inte är AI-genererat, och därför slinker AI-genererat innehåll lätt igenom nätet.
Meta uppgav dock att deras "policyer förbjuder annonser som innehåller vuxeninnehåll som är alltför suggestivt eller sexuellt provocerande - oavsett om det är AI-genererat eller inte."
Vem publicerar apparna?
Dussintals okända apputvecklare utnyttjar detta kryphål och visar annonser som utlovar "NSFW-bilder", "anpassade pinup-flickor", "digitala flickvänner" och "chattar utan censur".
Många företag finns i länder som Vitryssland och Kina, och appar är i allmänhet gratis att ladda ner från Googles och Apples appbutiker.
Intäkterna genereras främst genom köp i appar och prenumerationer.
Det som är slående är den inkonsekventa åldersklassificeringen i dessa appar: vissa är begränsade för äldre målgrupper, medan andra anses lämpliga för tonåringar.
NBC News testade tre av dessa chatbottar. En gjorde det möjligt för användare att skapa sina egna NSFW-bilder, och en annan var helt klickbaserad och förlitade sig på förutbestämda explicita berättelser.
Bland dem fanns det ökända Replika, som nyligen kopplades till en mordkomplott för att döda drottning Elizabeth II.
Den allmänna opinionen om online-reklamen för dessa chatbots har varit polariserad. Kommentarer på Instagram, till exempel, varierade från "väldigt dystopiskt" till "bara sorgligt", med vissa som noterade att de AI-genererade karaktärerna såg obehagligt barnlika ut.
Kommande regleringar i EU och USA kommer att öka pressen på sociala medieföretag att slå ner på AI-genererat innehåll, men huruvida deras filtreringsteknik kan leverera de förväntade resultaten är en annan historia.
