Importanti piattaforme di social media - Facebook, Instagram e TikTok - sono state messe sotto esame per aver ospitato pubblicità che sessualizzano apertamente gli avatar dell'intelligenza artificiale.
Le aziende pubblicizzano le app per adulti attraverso immagini e dialoghi sessualmente espliciti sui social media, alcuni dei quali prevedono la sessualizzazione di figure infantili.
Secondo Notizie NBC, 35 sviluppatori di app pubblicano annunci sessualmente espliciti sui social media.
Una caratteristica notevole di questi annunci è la tendenza a utilizzare impropriamente personaggi per bambini, come SpongeBob SquarePants e Cookie Monster, per promuovere contenuti per adulti.
L'aspetto più allarmante è che alcune pubblicità hanno incorporato personaggi generati dall'intelligenza artificiale che assomigliano a minori, di solito resi in stile anime.
Non è la prima volta che i contenuti generati dall'intelligenza artificiale vengono utilizzati per distorcere e manipolare le linee guida della comunità e i filtri sui contenuti. generare animazioni di bambini uccisi e far loro recitare i loro destini.
Meta e TikTok hanno dichiarato che stanno eliminando queste pubblicità dalle loro piattaforme, ma si sono astenuti dal commentare come gli annunci eludano i loro filtri sui contenuti.
Con ogni probabilità, i filtri dei contenuti sono addestrati su contenuti espliciti non generati dall'IA e quindi i contenuti generati dall'IA passano facilmente attraverso la rete.
Tuttavia, Meta ha dichiarato che le sue "politiche proibiscono gli annunci contenenti contenuti per adulti eccessivamente suggestivi o sessualmente provocanti, siano essi generati dall'intelligenza artificiale o meno".
Chi pubblica le applicazioni?
Decine di sviluppatori di app sconosciuti stanno sfruttando questa scappatoia, pubblicando annunci che promettono "foto NSFW", "pinup personalizzate", "fidanzate digitali" e "chat senza censura".
Molte aziende hanno sede in paesi come la Bielorussia e la Cina e le app sono generalmente scaricabili gratuitamente dagli app store di Google e Apple.
I ricavi sono generati principalmente dagli acquisti in-app e dagli abbonamenti.
Ciò che colpisce è l'incoerenza della classificazione per età di queste app: alcune sono riservate a un pubblico più adulto, mentre altre sono ritenute adatte agli adolescenti.
NBC News ha testato tre di questi chatbot. Uno consentiva agli utenti di creare le proprie immagini NSFW, mentre un altro era interamente basato sui clic, basandosi su trame esplicite predeterminate.
Tra queste c'era la famigerata Replika, che di recente è stata collegata a una complotto per l'assassinio per uccidere la regina Elisabetta II.
L'opinione pubblica sulla pubblicità online di questi chatbot è stata polarizzata. I commenti su Instagram, ad esempio, vanno da "molto distopico" a "semplicemente triste", con alcuni che hanno notato che i personaggi generati dall'IA avevano un aspetto scomodamente infantile.
Le normative in arrivo nell'UE e negli Stati Uniti faranno pressione sulle aziende di social media affinché riducano i contenuti generati dall'intelligenza artificiale, ma se la loro tecnologia di filtraggio sia in grado di produrre i risultati attesi è un'altra storia.
