Ad Almendralejo, una cittadina nel sud della Spagna, più di 20 ragazze adolescenti hanno recentemente scoperto di aver ricevuto sui loro cellulari immagini di loro stesse nude generate artificialmente.
Questi falsi nudi, inquietantemente realistici e profondi, sono stati manipolati a partire da fotografie inizialmente pubblicate sugli account Instagram delle ragazze.
Ora, genitori ed esperti di diritto si stanno confrontando con la domanda: La creazione e la distribuzione di queste immagini costituiscono un reato ai sensi delle leggi vigenti?
Le immagini esplicite sono state generate utilizzando ClothOff, un'applicazione di intelligenza artificiale, e successivamente diffuse in vari gruppi WhatsApp.
I soggetti delle foto erano completamente vestiti, ma il software di intelligenza artificiale ha alterato in modo convincente le immagini per far apparire la nudità reale.
Questo ha portato a una crescente preoccupazione tra i genitori e le autorità legali sul fatto che queste foto manipolate possano essere classificate come pornografia infantile.
Miriam Al Adib, madre di una delle ragazze colpite, ha espresso il suo sgomento sul suo account Instagram, affermando: "I montaggi sono super realistici, è molto inquietante e un vero oltraggio".
Ha continuato: "Mia figlia mi ha detto con grande disgusto: 'Mamma, guarda cosa mi hanno fatto'".
Al Adib ha anche espresso il timore che le immagini alterate possano finire su siti web per adulti.
Fátima Gómez, un altro genitore preoccupato, ha dichiarato alla rete televisiva spagnola Estremadura TV che la figlia era stata ricattata sui social media. Un ragazzo ha preteso del denaro dalla figlia e, al suo rifiuto, le ha inviato un falso nudo integrale.
Il L'FBI ha avvertito di "sextortion" generata dall'intelligenza artificiale nel giugno di quest'anno, e diverse donne ne sono già state vittime.
La polizia nazionale spagnola ha indagato sul caso e ha individuato diversi giovani presumibilmente coinvolti nella creazione e distribuzione di queste immagini.
La situazione è stata segnalata anche alla Procura dei minori. Il sindaco di Almendralejo ha avvertito che quello che potrebbe essere iniziato come uno "scherzo" potrebbe avere serie conseguenze legali.
ClothOff, l'applicazione AI in questione, ha uno slogan sconcertante: "Spogliate chiunque, spogliate le ragazze gratuitamente". Si dice che faccia pagare 10 euro per la generazione di 25 immagini di nudo.
La ragazza più giovane coinvolta aveva solo 11 anni.
Le leggi esistenti forniscono una copertura insufficiente
Manuel Cancio, professore di diritto penale presso l'Università Autonoma di Madrid, ha dichiarato a Euronews che le leggi esistenti potrebbero non affrontare adeguatamente il problema.
"Poiché è generata da deepfake, la privacy della persona in questione non viene intaccata. L'effetto che ha (sulla vittima) può essere molto simile a quello di una vera foto di nudo, ma la legge è un passo indietro", ha spiegato.
In sostanza, il fatto che l'immagine sia falsa o "romanzata" complica la legalità.
Gli esperti legali sono divisi su come classificare il reato. Alcuni sostengono che potrebbe rientrare nelle leggi sulla pornografia infantile, con conseguenti pene più severe, mentre altri suggeriscono che il reato potrebbe essere considerato un'offesa all'integrità morale.
Le interpretazioni legali del caso sono diverse in tutto il mondo e probabilmente ci sarebbe un dibattito simile se questo fosse accaduto in altri Paesi.
I bambini sono coinvolti nei danni legati all'intelligenza artificiale: il World Economic Forum (WEF) ha recentemente richiamato l'attenzione su una una palese mancanza di politiche per proteggere i bambini dai rischi dell'IA.
I legislatori statunitensi hanno anche questioni sollevate che circonda l'interazione dell'IA con i bambini, e i giornalisti del Regno Unito hanno scoperto che le associazioni di pedofili sono state generare contenuti illeciti disturbanti utilizzando modelli di intelligenza artificiale.
I legislatori sono messi alla prova da questi casi - Questo rivela ancora una volta come la legislazione tradizionale sia semplicemente troppo macchinosa per adattarsi ai rischi legati all'IA che potevano essere a malapena immaginati fino a pochi anni fa.
