Fremtredende sosiale medier - Facebook, Instagram og TikTok - har blitt gransket for å ha lagt ut annonser som åpenbart seksualiserer AI-avatarer.
Selskaper reklamerer for voksenfokuserte apper via seksuelt eksplisitte bilder og dialoger på sosiale medier, der noen av dem innebærer seksualisering av barnelignende figurer.
Ifølge NBC News...35 apputviklere kjører seksuelt eksplisitte annonser på sosiale medier.
Et bemerkelsesverdig trekk ved disse annonsene er at de har en tendens til å misbruke barnefigurer, som Svampebob Firkant og Kakemonsteret, til å fremme voksent innhold.
Det mest alarmerende er at noen annonser har innlemmet AI-genererte figurer som ligner mindreårige, vanligvis gjengitt i anime-stil.
Dette er ikke første gang AI-generert innhold har blitt brukt til å forvrenge og manipulere retningslinjer og innholdsfiltre - en TikTok-konto ble nylig kritisert for å generere animasjoner av myrdede barn og får dem til å resitere skjebnene sine.
Meta og TikTok har sagt at de fjerner disse annonsene fra plattformene sine, men har avstått fra å kommentere hvordan annonsene omgår innholdsfiltrene deres.
Innholdsfiltre er etter all sannsynlighet trent på innhold som ikke er AI-generert, og dermed slipper AI-generert innhold lett gjennom nettet.
Meta uttalte imidlertid at deres "retningslinjer forbyr annonser som inneholder voksent innhold som er overdrevent suggererende eller seksuelt provoserende - enten det er AI-generert eller ikke."
Hvem publiserer appene?
Dusinvis av ukjente apputviklere utnytter dette smutthullet og viser annonser som lover "NSFW-bilder", "tilpassede pinup-jenter", "digitale kjærester" og "chatter uten sensur".
Mange av selskapene holder til i land som Hviterussland og Kina, og appene er som regel gratis å laste ned fra Googles og Apples appbutikker.
Inntektene genereres hovedsakelig gjennom kjøp i apper og abonnementer.
Det som er påfallende, er den inkonsekvente aldersmerkingen på tvers av disse appene: Noen er begrenset for et eldre publikum, mens andre anses som passende for tenåringer.
NBC News testet tre av disse chatbotene. En gjorde det mulig for brukerne å lage sine egne NSFW-bilder, og en annen var helt klikkbasert og baserte seg på forhåndsbestemte, eksplisitte historier.
Blant dem var det beryktede Replika, som nylig ble knyttet til en attentatplan for å drepe dronning Elizabeth II.
Den offentlige opinionen om nettreklamen for disse chatbotene har vært polarisert. Kommentarene på Instagram, for eksempel, varierte fra "veldig dystopisk" til "bare trist", og noen bemerket at de AI-genererte karakterene så ubehagelig barnslige ut.
Kommende reguleringer i EU og USA kommer til å legge press på selskapene i sosiale medier for å slå ned på AI-generert innhold, men om filtreringsteknologien deres kan levere de forventede resultatene, er en annen historie.
