Se distribuyeron entre los compañeros desnudos falsificados, generados por IA, de estudiantes del instituto Westfield de Nueva Jersey (EE.UU.), y no hay una vía clara para emprender acciones legales contra los autores.
La directora Mary Asfendis describió la situación en un correo electrónico a los padres como un "incidente muy grave."
Ta escuela guarda silencio sobre los detalles del incidente, incluido el número de personas afectadas o cualquier medida disciplinaria contra los autores, alegando motivos de confidencialidad.
El correo electrónico enviado por el director se filtró a la prensa y decía:
"Le escribo para ponerle al corriente de una situación que ha dado lugar a una desinformación generalizada y que ha provocado una gran preocupación e inquietud entre el alumnado del Westfield High School. Hoy temprano, los estudiantes nos informaron que algunos de nuestros estudiantes habían utilizado Inteligencia Artificial para crear imágenes pornográficas a partir de fotos originales. Hubo una gran preocupación acerca de quién tenía imágenes creadas de ellos y si fueron compartidas.
En este momento, creemos que las imágenes creadas han sido borradas y no están circulando. Se trata de un incidente muy grave. Seguimos investigando e informaremos a las personas y a las familias de los alumnos implicados una vez finalizada la investigación. Esto ocurrirá antes del fin de semana. Hemos ofrecido asesoramiento a todos los alumnos afectados y les hemos animado a que vuelvan a clase cuando se sientan capaces de hacerlo. Además, nuestro Oficial de Recursos Escolares y la Policía de Westfield han sido informados de nuestra investigación. Si un padre/tutor piensa que su hijo es víctima de un acto criminal en relación con este incidente, por favor, informe del asunto a la Policía de Westfield.
Quería ponerles al corriente de la situación, ya que, además de perjudicar a los alumnos implicados y alterar la jornada escolar, es de vital importancia que hablen con sus hijos sobre el uso que hacen de la tecnología y lo que publican, guardan y comparten en las redes sociales. Las nuevas tecnologías han hecho posible la falsificación de imágenes y los alumnos deben conocer el impacto y el daño que esas acciones pueden causar a los demás.
Seguiremos educando a sus hijos sobre la importancia del uso responsable de la tecnología y esperamos que refuercen estos mensajes en casa."
Esta situación no es exclusiva del Westfield High School. España vivió un suceso similar en septiembre, y personajes públicos y diversas personas influyentes en línea también se han visto envueltos en polémicas de pornografía deepfake.
En Nueva Jersey no existe legislación que penalice la creación y distribución de desnudos falsos creados por IA.
El 10 de octubre, el gobernador Phil Murphy presentó un grupo de trabajo sobre IA para estudiar las ventajas, el crecimiento y los riesgos de esta tecnología, pero sigue sin existir una ley definitiva que aborde esta cuestión.
La orden ejecutiva del Presidente Biden sobre la regulación de la IA propone medidas de supervisión, establecimiento de salvaguardias e inversiones tecnológicas. Sin embargo, no llega a instituir una ley federal general contra los desnudos profundos falsos, y no hay plazos para tal legislación.
Bradley Waldstreicher, editor asociado de Revista de Derecho Cardozoen mayo de 2021, subrayó la complejidad de la legislación federal sobre deepfakes, declarando: "Si se aprueba una legislación federal sobre deepfakes que se dirija específicamente a los deepfakes pornográficos, entonces, para ser constitucional, los deepfakes pornográficos podrían tener que encajar en la excepción categórica de la Primera Enmienda de ser una categoría separada como la pornografía infantil....[N]o hay una solución clara. Como mínimo, antes de que se apruebe una legislación federal sustantiva, los investigadores deben realizar más estudios para conocer el impacto que los deepfakes pornográficos tienen en las víctimas y en los usuarios de Internet."
Un análisis más detallado del aumento de los desnudos falsos generados por IA revela cifras asombrosas. Según la Washington Post, citando a Genevieve Oh, analista de la industria, ha habido un aumento de 290% en dicho contenido desde 2018 en sitios web prominentes que alojan fotos porno generadas por IA.
A REINO UNIDO investigación de la BBC reveló el asombroso aumento de la pornografía falsa, incluida la infantil, en sitios como Patreon.
Solo en 2023, se publicaron 143.000 vídeos porno deepfake en plataformas populares, lo que generó más de 4.200 millones de visualizaciones, un salto significativo con respecto a los años anteriores. Sensity AI informa de que entre el 90 y el 95% de estos vídeos incluyen imágenes femeninas no consentidas.
El FBI también destacó un aumento en los casos de "sextorsión", con 26,800 víctimas estadounidenses reportadas hasta septiembre de este año, marcando un aumento de 149% desde 2019.
Las falsificaciones profundas son uno de los riesgos más inminentes y acuciantes de la IA, y son excepcionalmente difíciles de contener.
Aparecen falsificaciones en todo el Conflicto Israel-Palestina también puso de relieve la posibilidad de que imágenes auténticas sean etiquetadas falsamente como generadas por IA, un ejemplo de "dividendo del mentiroso" en el que la información real puede ser desestimada como falsa.
Esto también se extiende a las voces y vídeos generados por IA, a menudo dirigidos contra dirigentes políticosSe teme que esto pueda influir en el comportamiento electoral.
