Fremtrædende sociale medieplatforme - Facebook, Instagram og TikTok - er blevet gransket for at være vært for reklamer, der åbenlyst seksualiserer AI-avatarer.
Virksomheder reklamerer for voksenfokuserede apps via seksuelt eksplicitte billeder og dialoger på de sociale medier, hvoraf nogle involverer seksualisering af børnelignende figurer.
Ifølge NBC Nyheder35 app-udviklere kører seksuelt eksplicitte annoncer på sociale medier.
Et bemærkelsesværdigt træk ved disse reklamer er deres tendens til at misbruge børnefigurer, såsom Svampebob Firkant og Kagemonsteret, til at promovere voksent indhold.
Det mest alarmerende er, at nogle reklamer indeholder AI-genererede figurer, der ligner mindreårige, og som regel er gengivet i anime-stil.
Det er ikke første gang, at AI-genereret indhold er blevet brugt til at fordreje og manipulere retningslinjer for fællesskabet og indholdsfiltre - en TikTok-konto kom for nylig under beskydning for at genererer animationer af myrdede børn og få dem til at recitere deres skæbne.
Meta og TikTok sagde, at de fjerner disse reklamer fra deres platforme, men har ikke villet kommentere, hvordan reklamerne undgår deres indholdsfiltre.
Efter al sandsynlighed er indholdsfiltre trænet på ikke-AI-genereret eksplicit indhold, og derfor slipper AI-genereret indhold let gennem nettet.
Meta sagde dog, at deres "politikker forbyder annoncer med voksenindhold, der er alt for suggestivt eller seksuelt provokerende - uanset om det er AI-genereret eller ej."
Hvem udgiver apps?
Dusinvis af ukendte app-udviklere udnytter dette smuthul og viser annoncer, der lover "NSFW-billeder", "brugerdefinerede pinup-piger", "digitale kærester" og "chats uden censur".
Mange virksomheder ligger i lande som Hviderusland og Kina, og apps kan som regel downloades gratis fra Googles og Apples app stores.
Indtægterne genereres primært gennem køb i appen og abonnementer.
Det, der er slående, er den inkonsekvente aldersvurdering på tværs af disse apps: Nogle er begrænset til ældre målgrupper, mens andre anses for at være passende for teenagere.
NBC News testede tre af disse chatbots. En gjorde det muligt for brugerne at skabe deres egne NSFW-billeder, og en anden var helt klikbaseret og baserede sig på forudbestemte eksplicitte historier.
Blandt dem var den berygtede Replika, som for nylig blev sat i forbindelse med en Attentatsplan for at dræbe dronning Elizabeth II.
Den offentlige mening om online-reklamerne for disse chatbots har været polariseret. Kommentarer på Instagram varierede for eksempel fra "meget dystopisk" til "bare trist", og nogle bemærkede, at de AI-genererede figurer så ubehageligt barnlige ud.
Kommende lovgivning i EU og USA vil lægge pres på de sociale medievirksomheder for at slå ned på AI-genereret indhold, men om deres filtreringsteknologi kan levere de forventede resultater, er en anden historie.
