L'UK Safer Internet Centre (UKSIC) ha riferito che i bambini utilizzano generatori di immagini AI per creare immagini indecenti di altri bambini.
L'associazione ha dichiarato di aver esaminato un "piccolo numero di segnalazioni", ma ha sottolineato che è necessario intervenire subito prima che il problema si diffonda.
David Wright, direttore dell'UKSIC, sottolinea la necessità di un'azione immediata: "Abbiamo bisogno di vedere le misure prese ora, prima che le scuole siano sopraffatte e il problema cresca".
I bambini, in particolare, probabilmente non si rendono conto delle implicazioni dell'utilizzo dell'IA in questo modo.
Nel Regno Unito, creare, possedere o distribuire tali immagini è illegale, indipendentemente dal fatto che siano reali o generate dall'intelligenza artificiale.
L'ente di beneficenza ha messo in guardia dalla possibilità che queste immagini vengano utilizzate in modo improprio o diffuse online, portando a conseguenze indesiderate, tra cui il ricatto.
Non si tratta di un caso isolato. Spagnolo e Scuole statunitensi Entrambi i paesi hanno avuto una polemica sulle immagini generate dall'intelligenza artificiale, con lo scambio di immagini illecite di minori.
Inoltre, c'è un notevole dibattito su chi sia responsabile dell'educazione dei bambini sui danni di questo materiale. Il dovere ricade sui genitori, sulle scuole o sui governi?
Ricerca separata da parte di un'azienda di tecnologia educativa Tecnologia RM che ha coinvolto 1.000 studenti, ha dimostrato che quasi un terzo utilizza l'intelligenza artificiale per attività online inappropriate.
Tasha Gibson, responsabile della sicurezza online di RM Technology, ha dichiarato: "Gli studenti che utilizzano regolarmente l'intelligenza artificiale sono ormai una consuetudine".In effetti, la loro comprensione dell'IA è più avanzata di quella della maggior parte degli insegnanti, creando un gap di conoscenze".
Le app facilitano la creazione di immagini illecite
Queste cosiddette app di "declassamento" sono apparse per la prima volta sulle piattaforme di social media nel 2019, spesso utilizzate su servizi di messaggistica come Telegram come software automatizzati con capacità di intelligenza artificiale.
Inizialmente queste app erano relativamente poco sofisticate, ma i progressi dell'intelligenza artificiale generativa hanno migliorato la loro capacità di creare immagini false fotorealistiche.
Il modello coinvolto nel caso spagnolo ha attirato quasi 50.000 abbonati. In genere, gli utenti possono creare gratuitamente un certo numero di immagini prima di dover pagare una tariffa.
In molti casi, l'uso di queste app è dettato dalla curiosità, afferma l'UKSIC, ma questo non costituisce certo una difesa legale.
Un uomo della Carolina del Nord è diventato recentemente probabilmente il primo individuo per essere condannato per crimini sessuali legati all'IA, ricevendo una pena detentiva di 40 anni. È improbabile che sia l'ultimo.
