En Almendralejo, una pequeña localidad del sur de España, más de 20 adolescentes descubrieron recientemente que habían recibido en sus teléfonos móviles imágenes suyas desnudas generadas artificialmente.
Estos desnudos falsos de un realismo perturbador fueron manipulados a partir de fotografías publicadas inicialmente en las cuentas de Instagram de las chicas.
Ahora, padres y expertos jurídicos se enfrentan a la pregunta: ¿Constituye la creación y distribución de estas imágenes un delito según la legislación vigente?
Las imágenes explícitas se generaron utilizando ClothOff, una aplicación de IA, y posteriormente se difundieron en varios grupos de WhatsApp.
Los sujetos de las fotos estaban completamente vestidos, pero el software de IA alteró las imágenes de forma convincente para que la desnudez pareciera real.
Esto ha suscitado una creciente preocupación entre los padres y las autoridades judiciales sobre si estas fotos manipuladas podrían considerarse pornografía infantil.
Miriam Al Adib, madre de una de las niñas afectadas, expresó su consternación en su cuenta de Instagram: "Los montajes son súper realistas, es muy perturbador y una verdadera barbaridad."
Y continuó: "Mi hija me dijo con gran disgusto: 'Mamá, mira lo que me han hecho'".
Al Adib también expresó su preocupación por la posibilidad de que las imágenes alteradas llegaran a sitios web para adultos.
Fátima Gómez, otra madre preocupada, declaró a la cadena de noticias española Extremadura TV que su hija había sido chantajeada a través de las redes sociales. Un chico exigió dinero a su hija y, cuando ella se negó, le envió un desnudo profundo falso.
En Advertencia del FBI de "sextorsión" generada por IA en junio de este año, y varias mujeres ya han sido víctimas.
La Policía Nacional española ha investigado el caso y ha identificado a varios menores presuntamente implicados en la creación y distribución de estas imágenes.
La situación también se ha remitido a la Fiscalía de Menores. El alcalde de Almendralejo advirtió de que lo que pudo empezar como una "broma" podría acarrear graves consecuencias legales.
ClothOff, la aplicación de IA en cuestión, tiene un eslogan desconcertante: "Desnuda a cualquiera, desnuda a chicas gratis". Supuestamente cobra 10 euros por la generación de 25 imágenes de desnudos.
La menor implicada sólo tenía 11 años.
La legislación vigente ofrece escasa cobertura
Manuel Cancio, catedrático de Derecho Penal de la Universidad Autónoma de Madrid, a Euronews que es posible que las leyes vigentes no aborden adecuadamente la cuestión.
"Como se genera mediante deepfake, la privacidad real de la persona en cuestión no se ve afectada. El efecto que tiene (sobre la víctima) puede ser muy similar al de una foto de desnudo real, pero la ley va un paso por detrás", explicó.
Básicamente, el hecho de que la imagen sea falsa o "ficticia" complica los aspectos legales.
Los juristas no se ponen de acuerdo sobre la tipificación del delito. Algunos sostienen que podría encuadrarse en la legislación sobre pornografía infantil, lo que conllevaría penas más severas, mientras que otros sugieren que el delito podría considerarse un atentado contra la integridad moral.
Las interpretaciones jurídicas del caso diferirían en todo el mundo, y probablemente habría un debate similar si esto hubiera ocurrido en otros países.
El Foro Económico Mundial (FEM) ha llamado recientemente la atención sobre un aumento de los daños relacionados con la inteligencia artificial. falta flagrante de políticas para proteger a los niños de los riesgos de la IA.
Los legisladores estadounidenses también cuestiones planteadas en torno a la interacción de AI con los niños, y los periodistas del Reino Unido descubrieron que las redes de pedofilia han sido generar contenidos ilícitos perturbadores utilizando modelos de IA.
Estos casos ponen a prueba a los legisladores - esto revela una vez más cómo la legislación tradicional es simplemente demasiado engorrosa para adaptarse a riesgos relacionados con la IA que apenas podían imaginarse hace unos años.
