L'intelligenza artificiale viene sfruttata per creare immagini di abusi sessuali su minori a un ritmo allarmante, facendo temere una minaccia schiacciante per la sicurezza di Internet, avverte la Internet Watch Foundation (IWF).
L'ente di controllo britannico ha individuato quasi 3.000 immagini generate dall'intelligenza artificiale che violano le leggi del Regno Unito.
Il L'IWF ha riferito che i modelli di intelligenza artificiale vengono alimentati con immagini di vere vittime di abusi, generando nuovi contenuti abusivi. Inoltre, la tecnologia viene utilizzata per produrre immagini di celebrità minorenni in scenari di abuso e per "nudificare" foto di bambini vestiti trovate online.
Esistono numerosi casi internazionali di falsi abusi su minori, compreso un caso recente in cui diverse studentesse spagnole sono state prese di mira con immagini sessualizzate generate dall'intelligenza artificiale. A giugno, alcuni giornalisti del La BBC ha esposto immagini di AI pedofile che circolano su piattaforme come Patreon.
Susie Hargreaves, direttore esecutivo dell'IWF, ha dichiarato che i loro "peggiori incubi sono diventati realtà", sottolineando l'accelerazione della tecnologia AI per scopi malevoli.
La fondazione aveva già evidenziato la minaccia emergente durante l'estate e ora conferma un aumento significativo dell'incidenza del materiale pedopornografico generato dall'IA (Child Sexual Abuse Material, CSAM).
Nel corso dell'indagine, durata un mese, la ricerca su un forum di abusi su minori del dark web ha rivelato che 2.978 immagini su 11.108 violavano la legge del Regno Unito. 20% di contenuti sono stati classificati come la forma più grave di contenuto abusivo.
Dan Sexton, Chief Technology Officer di IWF, ha sottolineato che Stable Diffusion, un modello di AI open-source ampiamente disponibile, è stato lo strumento principale discusso nel forum per la creazione di CSAM.
Essendo un modello open-source, Stable Diffusion non ha necessariamente le stesse garanzie dei modelli commerciali di generazione di immagini, come DALL-E 3.
Affrontare lo sfruttamento dei contenuti generati dall'intelligenza artificiale sui social media
Le piattaforme dei social media sono diventate focolai di contenuti sessualmente espliciti e di sfruttamento generati dall'intelligenza artificiale.
Le piattaforme di social media più popolari, come Facebook, Instagram e TikTok, sono sotto esame per aver ospitato annunci pubblicitari. che sessualizzano gli avatar AI e promuovere applicazioni incentrate sugli adulti.
Le pubblicità sono esplicite e prevedono la sessualizzazione di figure infantili, sfruttando le lacune dei sistemi di moderazione dei contenuti.
Nonostante gli sforzi di Meta e TikTok per eliminare queste pubblicità, la natura generata dall'intelligenza artificiale dei contenuti spesso elude i filtri automatici. L'incoerenza delle classificazioni per età di queste app, insieme alla loro disponibilità a livello globale, complica ulteriormente la questione.
Man mano che gli algoritmi di IA diventano più sofisticati, la creazione di immagini, video e audio ultra-realistici rappresenta una minaccia significativa per gli individui, le aziende e la società in generale.
L'FBI avvertimenti sulla sextortion AI all'inizio dell'anno, in particolare per quanto riguarda i minori, hanno evidenziato l'urgenza di affrontare questo problema. Sembra che il fenomeno si stia solo accelerando.
