Recientemente han aparecido en TikTok varios vídeos falsos de niños asesinados y maltratados generados por inteligencia artificial.
Uno de los vídeos, que el canal calificó de "educativo", describe el trágico destino de James Bulger fue secuestrado por Jon Venables y Robert Thompson, que entonces tenía 10 años, en 1993, en Merseyside, Liverpool.
Bulger, que entonces sólo tenía 2 años, fue horriblemente maltratado y torturado antes de ser encontrado muerto cerca de una vía férrea. Venables y Thompson se convirtieron en las personas más jóvenes condenadas por asesinato en el Reino Unido y en los asesinos condenados más jóvenes del siglo XX.
Denise Fergus, la madre del hijo asesinado James Bulger, ha condenado los vídeos generados por inteligencia artificial de su hijo fallecido como "más que enfermizos".
Estos vídeos formaban parte de una serie que empleaba tecnología de IA para recrear niños desaparecidos o asesinados, entre ellos Madeleine McCann, que desapareció durante unas vacaciones familiares en 2007; Rhys Jones, de 11 años, asesinado por error por un miembro de una banda en Liverpool; y Peter Connolly, también conocido como "Baby P", que murió por abandono y malos tratos.
Algunos de estos vídeos acumularon decenas de miles de visitas antes de su retirada y se subieron sin ninguna advertencia sobre su contenido.
Hablando con El espejo, Denise Fergus, madre de James Bulger, calificó los vídeos de "repugnantes".
Fergus señaló que, aunque no tenía ningún problema en informar sobre los casos, le parecía "absolutamente repugnante" ver cómo se utilizaba el rostro de su hijo fallecido de esa manera.
"Es devolver la vida a un niño muerto. Es más que enfermizo", declaró. "¿Quién puede sentarse ahí y pensar en algo así?", preguntó, y añadió: "No es justo para la gente que ha perdido hijos, o que ha perdido a alguien".
Su marido, Stuart Fergus, se puso en contacto con la cuenta, al parecer radicada en Filipinas, para solicitar la retirada del contenido ofensivo. La respuesta que recibió afirmaba que "no pretendían ofender a nadie" y que pretendían asegurarse de que este tipo de incidentes "no volvieran a ocurrir", junto con un llamamiento a apoyar y compartir su página.
TikTok respondió a la polémica, a la BBC que los vídeos ofensivos habían sido retirados, afirmando que "no había lugar" en la aplicación para tales contenidos.
Un portavoz de TikTok destacó las directrices de la comunidad de la empresa, afirmando que "no permiten medios sintéticos que contengan la imagen de un joven" y prometió seguir retirando este tipo de contenido.
Las falsificaciones profundas se vuelven siniestras
Las falsificaciones profundas generadas por IA se han esgrimido para sextorsión, estafasy generando abusivosimágenes pedófilas.
Cada vez se dice más que los riesgos futuristas de la IA -como hacerse con el control de infraestructuras críticas o volverse contra sus creadores- son una distracción de los efectos inmediatos, como las falsificaciones profundas, la desinformación y la ciberdelincuencia.
A medida que las falsificaciones profundas sean cada vez más sofisticadas, será más difícil discernir lo digital de lo físico. Como tantas cosas en el mundo de la IA, sus repercusiones no tienen precedentes.
