Prominente sociale mediaplatforms - Facebook, Instagram en TikTok - zijn onder vuur komen te liggen vanwege advertenties waarin AI-avatars openlijk worden geseksualiseerd.
Bedrijven adverteren op volwassenen gerichte apps via seksueel expliciete afbeeldingen en dialogen op sociale media, waarbij in sommige gevallen kinderlijke figuren worden geseksualiseerd.
Volgens NBC Nieuws35 app-ontwikkelaars voeren seksueel getinte advertenties op sociale media.
Een opvallend kenmerk van deze advertenties is hun neiging om kinderfiguren, zoals SpongeBob SquarePants en het Koekiemonster, te misbruiken om inhoud voor volwassenen te promoten.
Het meest verontrustende is dat sommige advertenties AI-gegenereerde personages bevatten die op minderjarigen lijken, meestal weergegeven in anime-stijl.
Dit is niet de eerste keer dat AI-gegenereerde inhoud wordt gebruikt om gemeenschapsrichtlijnen en inhoudfilters te vervormen en manipuleren - een TikTok-account kwam onlangs onder vuur te liggen voor animaties van vermoorde kinderen maken en ze hun lot te laten opnoemen.
Meta en TikTok zeiden dat ze deze advertenties van hun platforms aan het verwijderen zijn, maar hebben geen commentaar gegeven op hoe de advertenties hun inhoudsfilters omzeilen.
Naar alle waarschijnlijkheid worden inhoudfilters getraind op niet door AI gegenereerde expliciete inhoud en glipt AI-gegenereerde inhoud dus gemakkelijk door de mazen van het net.
Meta verklaarde echter dat hun "beleid advertenties verbiedt die inhoud voor volwassenen bevatten die overdreven suggestief of seksueel provocerend is - of deze nu door AI is gegenereerd of niet".
Wie publiceert de apps?
Tientallen onbekende app-ontwikkelaars profiteren van deze maas in de wet met advertenties die "NSFW-pics", "aangepaste pinup girls", "digitale vriendinnen" en "chats zonder censuur" beloven.
Veel bedrijven zijn gevestigd in landen als Wit-Rusland en China, en apps zijn over het algemeen gratis te downloaden uit de app stores van Google en Apple.
Inkomsten worden voornamelijk gegenereerd door in-app aankopen en abonnementen.
Wat opvalt is de inconsistente leeftijdsclassificatie van deze apps: sommige zijn beperkt voor ouder publiek, terwijl andere geschikt worden geacht voor tieners.
NBC News testte drie van deze chatbots. Eén stelde gebruikers in staat om hun eigen NSFW-afbeeldingen te maken en een andere was volledig gebaseerd op klikken en vertrouwde op vooraf bepaalde expliciete verhaallijnen.
Onder hen was het beruchte Replika, dat onlangs in verband werd gebracht met een moordcomplot om koningin Elizabeth II te vermoorden.
De publieke opinie over de online reclame voor deze chatbots is gepolariseerd. Reacties op Instagram varieerden bijvoorbeeld van "erg dystopisch" tot "gewoon triest", waarbij sommigen opmerkten dat de door AI gegenereerde personages er ongemakkelijk kinderlijk uitzagen.
Aankomende regelgeving in de EU en de VS zal de druk op socialemediabedrijven opvoeren om hard op te treden tegen AI-gegenereerde inhoud, maar of hun filtertechnologie de verwachte resultaten kan opleveren is een ander verhaal.
