Nudi contraffatti generati dall'intelligenza artificiale di studenti della Westfield High School del New Jersey, negli Stati Uniti, sono stati distribuiti tra i coetanei e non c'è una chiara via d'azione legale da intraprendere contro gli autori.
La preside Mary Asfendis ha descritto la situazione in un'e-mail ai genitori come un "incidente molto grave".
Ta scuola tace sui dettagli dell'incidente, compreso il numero di persone colpite o eventuali misure disciplinari contro gli autori, adducendo problemi di riservatezza.
L'e-mail inviata dal preside è stata divulgata alla stampa e diceva:
"Vi scrivo per mettervi al corrente di una situazione che ha generato una diffusa disinformazione e ha suscitato notevole preoccupazione e inquietudine nel corpo studentesco della Westfield High School. All'inizio della giornata, alcuni studenti ci hanno segnalato che alcuni di loro avevano usato l'intelligenza artificiale per creare immagini pornografiche da foto originali. C'è stata una grande preoccupazione per chi ha avuto immagini create su di loro e se sono state condivise.
Al momento riteniamo che le immagini create siano state cancellate e non vengano diffuse. Si tratta di un incidente molto grave. Stiamo continuando a indagare e informeremo le persone e le famiglie degli studenti coinvolti una volta completate le indagini. Questo avverrà prima del fine settimana. Abbiamo messo a disposizione un servizio di consulenza per tutti gli studenti coinvolti e li abbiamo incoraggiati a tornare in classe quando se la sentiranno. Inoltre, il nostro responsabile delle risorse scolastiche e la polizia di Westfield sono stati informati della nostra indagine. Se un genitore/tutore pensa che il proprio figlio sia vittima di un atto criminale in relazione a questo incidente, è pregato di segnalarlo alla polizia di Westfield.
Volevo mettervi al corrente della situazione perché, oltre a danneggiare gli studenti coinvolti e a interrompere la giornata scolastica, è di fondamentale importanza parlare con i vostri figli dell'uso che fanno della tecnologia e di ciò che pubblicano, salvano e condividono sui social media. Le nuove tecnologie hanno reso possibile la falsificazione di immagini e gli studenti devono conoscere l'impatto e il danno che queste azioni possono causare agli altri.
Continueremo a educare i vostri figli sull'importanza di un uso responsabile della tecnologia e speriamo che rafforzerete questi messaggi a casa".
Questa situazione non è unica per la Westfield High School. La Spagna ha vissuto un evento simile a settembre, e anche personaggi pubblici e vari influencer online sono stati coinvolti in controversie legate alla pornografia deepfake.
Nel New Jersey non esiste una legislazione che penalizzi la creazione e la distribuzione di nudi falsi creati dall'intelligenza artificiale.
Il governatore Phil Murphy, il 10 ottobre, ha presentato una task force sull'IA per sondare i benefici, la crescita e i rischi della tecnologia, ma una legge definitiva che affronti la questione rimane inesistente.
L'ordine esecutivo del Presidente Biden sulla regolamentazione dell'IA propone misure per la supervisione, la creazione di salvaguardie e gli investimenti tecnologici. Tuttavia, non è in grado di istituire una legge federale generale contro i falsi nudi profondi e non è previsto un calendario per tale legislazione.
Bradley Waldstreicher, redattore associato di Rivista di diritto Cardozo, ha sottolineato la complessità della legislazione federale sui deep fake nel maggio 2021, affermando: "Se viene approvata una legislazione federale sui deepfake che si rivolge specificamente ai deepfake pornografici, allora, per essere costituzionali, i deepfake pornografici potrebbero dover rientrare nell'eccezione categorica del Primo Emendamento, essendo una categoria separata come la pornografia infantile....[Non c'è una soluzione chiara. Come minimo, prima di approvare una legislazione federale sostanziale, i ricercatori devono condurre ulteriori studi per conoscere l'impatto che i deepfakes pornografici hanno sulle vittime e sugli utenti di Internet".
Un'analisi più approfondita dell'aumento dei falsi nudi generati dall'intelligenza artificiale rivela numeri sconcertanti. Secondo il Washington PostCitando Genevieve Oh, un'analista del settore, dal 2018 si è registrato un aumento di 290% di tali contenuti su importanti siti web che ospitano foto porno generate dall'intelligenza artificiale.
UN REGNO UNITO inchiesta della BBC ha rivelato il sorprendente aumento della pornografia fittizia, compresa quella infantile, su siti come Patreon.
Solo nel 2023 sono stati pubblicati 143.000 video pornografici deepfake sulle piattaforme più diffuse, generando oltre 4,2 miliardi di visualizzazioni - un salto significativo rispetto agli anni precedenti. Sensity AI riferisce che dal 90 al 95% di questi video presentano immagini femminili non consensuali.
L'FBI ha inoltre evidenziato un'impennata dei casi di "sextortion", con 26.800 vittime statunitensi segnalate fino a settembre di quest'anno, segnando un aumento di 149% rispetto al 2019.
Le falsificazioni profonde sono uno dei rischi più imminenti e pressanti dell'IA e sono estremamente difficili da contenere.
I falsi che spuntano in tutto il Il conflitto israelo-palestinese ha anche evidenziato la possibilità che immagini autentiche vengano falsamente etichettate come generate dall'IA, un esempio di "dividendo bugiardo" in cui informazioni reali possono essere ignorate come false.
Questo vale anche per le voci e i video generati dall'intelligenza artificiale, spesso mirando a leader politicicon il timore che ciò possa influenzare il comportamento di voto.
