Su TikTok sono apparsi di recente diversi video falsi generati dall'intelligenza artificiale di bambini uccisi e maltrattati.
Uno dei video, che il canale ha definito "educativo", descrive la tragica sorte di James Bulger fu rapito da Jon Venables e Robert Thompson, all'epoca di 10 anni, nel 1993, nel Merseyside, a Liverpool.
Bulger, all'epoca di soli 2 anni, fu orribilmente maltrattato e torturato prima di essere trovato morto vicino a una linea ferroviaria. Venables e Thompson sono diventati i più giovani condannati per omicidio nel Regno Unito e i più giovani assassini condannati del XX secolo.
Denise Fergus, la madre del figlio assassinato James Bulger, ha condannato i video generati dall'intelligenza artificiale del figlio deceduto come "oltremodo malati".
Questi video facevano parte di una serie che utilizzava la tecnologia AI per ricreare bambini scomparsi o uccisi, tra cui Madeleine McCann, scomparsa durante una vacanza con la famiglia nel 2007, Rhys Jones, 11 anni, ucciso per errore da un membro di una gang a Liverpool, e Peter Connolly, noto anche come "Baby P", morto per abbandono e abusi.
Alcuni di questi video hanno accumulato decine di migliaia di visualizzazioni prima di essere rimossi e sono stati caricati senza alcun avviso sui contenuti.
Parlando con Lo specchioDenise Fergus, madre di James Bulger, ha definito i video "disgustosi".
Fergus ha osservato che, pur non avendo problemi a riferire sui casi, ha trovato "assolutamente disgustoso" vedere il volto del figlio defunto usato in questo modo.
"È riportare in vita un bambino morto. È oltremodo malato", ha dichiarato. "Chi può stare seduto lì e pensare a una cosa del genere?", ha chiesto, aggiungendo: "Non è giusto nei confronti delle persone che hanno perso dei figli, o che hanno perso qualcuno".
Il marito, Stuart Fergus, ha contattato l'account, apparentemente basato nelle Filippine, chiedendo la rimozione dei contenuti offensivi. Nella risposta ricevuta si legge che "non intendono offendere nessuno" e che intendono garantire che tali incidenti "non si verifichino mai più", insieme a un invito a sostenere e condividere la loro pagina.
TikTok ha risposto alle polemiche, raccontando alla BBC che i video incriminati sono stati rimossi, affermando che nell'app non c'è "posto" per tali contenuti.
Un portavoce di TikTok ha sottolineato le linee guida della comunità dell'azienda, affermando che "non sono consentiti media sintetici che contengano le sembianze di un giovane" e ha promesso di continuare a rimuovere tali contenuti.
Le finte profonde prendono una piega sinistra
I falsi profondi generati dall'intelligenza artificiale sono stati utilizzati per sestorsione, truffe, e generando abusivi, immagini pedofile.
È sempre più diffusa l'idea che i rischi futuristici dell'IA - come l'impossibilità di prendere il controllo di infrastrutture critiche o di rivoltarsi contro i suoi creatori - siano una distrazione dagli impatti immediati, come le falsificazioni profonde, la disinformazione e la criminalità informatica.
Con la crescente sofisticazione dei falsi profondi, sarà sempre più difficile discernere il digitale dal fisico. Come molte altre cose nel mondo dell'IA, l'impatto di questo fenomeno è senza precedenti.
