Un juzgado de menores de Badajoz (España) ha condenado a 15 escolares a un año de libertad vigilada por crear y difundir imágenes de desnudos de sus compañeras de clase generadas por inteligencia artificial.
Los menores, de entre 13 y 15 años, fueron declarados culpables de 20 delitos de creación de imágenes de abuso de menores y 20 delitos contra la integridad moral.
Como parte de su condena, los acusados deben asistir a clases de igualdad de género y responsabilidad tecnológica.
El tribunal declaró que los menores utilizaban aplicaciones de IA para manipular fotos originales de chicas tomadas de las redes sociales, superponiendo sus rostros a cuerpos femeninos desnudos.
El caso apareció por primera vez en septiembre del año pasado en Almendralejo, una pequeña ciudad del suroeste de España, cuando unos padres denunciaron que las imágenes de sus hijas estaban circulando por WhatsApp. Las fotos manipuladas mostraban a las niñas desnudas de forma realista, lo que provocó una inmensa angustia y ansiedad entre las víctimas, algunas de tan solo 11 años.
"Es un shock cuando lo ves", dijo la madre de una de las víctimas. "La imagen es completamente realista (...) Si no conociera el cuerpo de mi hija, habría pensado que esa imagen era real".
La madre de otra de las víctimas, Miriam Al Adib, expresó su indignación en Instagram: "Los montajes son súper realistas, es muy perturbador y una auténtica barbaridad."
Contó que su hija se le acercó indignada y le dijo: "Mamá, mira lo que me han hecho". Al Adib también expresó su preocupación por la posibilidad de que las imágenes de desnudos falsos acabaran en sitios web para adultos.
Otra madre, Fátima Gómez, declaró a los medios de comunicación locales que su hija fue chantajeada por un compañero de estudios por los desnudos falsos. Un chico exigió dinero a su hija y, cuando ella se negó, le envió una imagen manipulada de ella desnuda.
Las investigaciones policiales revelaron que se utilizó una aplicación llamada "ClothOff AI" para generar las imágenes a partir de fotos de redes sociales.
La aplicación tiene el inquietante eslogan "Desnuda a quien quieras, desnuda gratis a las chicas" y, al parecer, cobra 10 euros por generar 25 imágenes de desnudos.
Protección de los menores en la era de la IA
Este caso histórico pone de relieve la urgente necesidad de actualizar las leyes y políticas para hacer frente a la creciente amenaza de las falsificaciones profundas generadas por IA, en particular las dirigidas a menores.
Los expertos afirman que la legislación vigente es inadecuada para perseguir estos nuevos delitos, lo que deja a las víctimas en una situación de vulnerabilidad.
"Más allá de este juicio en concreto, estos hechos deben hacernos reflexionar sobre la necesidad de educar en la igualdad entre hombres y mujeres", ha señalado la Asociación Malvaluna, que representa a las familias afectadas.
Subrayaron la necesidad de una educación sexual integral en las escuelas para combatir los efectos nocivos de la pornografía y las falsificaciones profundas.
A medida que la tecnología de la IA avanza con rapidez, aumenta la preocupación por su potencial de abuso y explotación, que afecta de manera desproporcionada a mujeres y niños.
Foro Económico Mundial (FEM) y legisladores estadounidenses han llamado recientemente la atención sobre la falta de políticas que protejan a los menores de los riesgos de la IA.
Los legisladores estadounidenses también cuestiones planteadas en torno a la interacción de la IA con los niños, que se ha convertido claramente en un punto ciego evidente en las normativas y directrices. Los desarrolladores de IA ponen límites de edad a sus herramientas, pero su eficacia es dudosa.
La colaboración entre responsables políticos, empresas tecnológicas, educadores y padres es esencial para abordar estos retos y crear un futuro digital más seguro para todos, especialmente para los niños.
