Un tribunale giovanile di Badajoz, in Spagna, ha condannato 15 scolari a un anno di libertà vigilata per aver creato e diffuso immagini di nudo generate dall'intelligenza artificiale delle loro compagne di classe.
I minori, di età compresa tra i 13 e i 15 anni, sono stati riconosciuti colpevoli di 20 capi d'accusa per creazione di immagini di abuso su minori e 20 capi d'accusa per offese all'integrità morale.
Come parte della loro condanna, gli imputati devono frequentare corsi sulla parità di genere e sulla responsabilità tecnologica.
Il tribunale ha dichiarato che i minori hanno utilizzato applicazioni di intelligenza artificiale per manipolare foto originali di ragazze prese dai social media, sovrapponendo i loro volti a corpi femminili nudi.
Il caso è emersa per la prima volta nel settembre dello scorso anno ad Almendralejo, una cittadina nel sud-ovest della Spagna, quando i genitori hanno segnalato che le immagini delle loro figlie venivano diffuse su WhatsApp. Le foto manipolate ritraevano realisticamente le ragazze nude, causando un'immensa angoscia e ansia tra le vittime, alcune delle quali avevano appena 11 anni.
"È uno shock quando lo vedi", ha detto la madre di una delle vittime. "L'immagine è completamente realistica... Se non conoscessi il corpo di mia figlia, avrei pensato che quell'immagine fosse reale".
La madre di un'altra vittima, Miriam Al Adib, ha espresso il suo sdegno su Instagram, dicendo: "I montaggi sono super realistici, è molto inquietante e un vero oltraggio".
Ha raccontato che sua figlia è venuta da lei disgustata, dicendo: "Mamma, guarda cosa mi hanno fatto". Al Adib ha anche espresso il timore che le false immagini di nudo possano finire su siti web per adulti.
Un'altra madre, Fátima Gómez, ha dichiarato ai media locali che sua figlia è stata ricattata da un compagno di studi per i falsi nudi. Un ragazzo ha chiesto soldi alla figlia e, al suo rifiuto, le ha inviato una sua immagine nuda manipolata.
Le indagini della polizia hanno rivelato che un'applicazione chiamata "ClothOff AI" è stata utilizzata per generare le immagini dalle foto dei social media.
L'applicazione ha l'inquietante slogan "Spogliate chiunque, spogliate le ragazze gratuitamente" e, secondo quanto riferito, fa pagare 10 euro per generare 25 immagini di nudo.
Protezione dei minori nell'era dell'AI
Questo caso emblematico evidenzia l'urgente necessità di leggi e politiche aggiornate per affrontare la crescente minaccia dei falsi profondi generati dall'intelligenza artificiale, in particolare quelli che hanno come obiettivo i minori.
Gli esperti affermano che la legislazione esistente è inadeguata a perseguire questi nuovi reati, lasciando le vittime vulnerabili.
"Al di là di questo particolare processo, questi fatti dovrebbero farci riflettere sulla necessità di educare le persone alla parità tra uomini e donne", ha dichiarato l'Associazione Malvaluna, che rappresentava le famiglie colpite.
Hanno sottolineato la necessità di un'educazione sessuale completa nelle scuole per combattere gli effetti nocivi della pornografia e dei falsi profondi.
Con il rapido avanzamento della tecnologia AI, crescono le preoccupazioni per il suo potenziale di abuso e sfruttamento, con donne e bambini presi di mira in modo sproporzionato.
Il Forum economico mondiale (WEF) e i legislatori statunitensi hanno recentemente richiamato l'attenzione sulla mancanza di politiche che tutelino i minori dai rischi dell'IA.
I legislatori statunitensi hanno anche questioni sollevate che riguarda l'interazione dell'IA con i bambini, che è diventata chiaramente un punto cieco nelle normative e nelle linee guida. Gli sviluppatori di IA pongono limiti di età ai loro strumenti, che sono di dubbia efficacia.
La collaborazione tra politici, aziende tecnologiche, educatori e genitori è essenziale per affrontare queste sfide e creare un futuro digitale più sicuro per tutti, soprattutto per i bambini.
