El UK Safer Internet Centre (UKSIC) ha informado de que los niños utilizan generadores de imágenes de inteligencia artificial para crear imágenes indecentes de otros niños.
La organización benéfica dijo que ha revisado un "pequeño número de informes", pero subrayó que es necesario actuar ahora antes de que el problema se extienda.
David Wright, director del UKSIC, insiste en la necesidad de actuar de inmediato: "[Necesitamos] que se tomen medidas ya, antes de que las escuelas se vean desbordadas y el problema crezca".
Los niños, en particular, probablemente no se dan cuenta de las implicaciones de utilizar la IA de esta manera.
En el Reino Unido, crear, poseer o distribuir este tipo de imágenes es ilegal, independientemente de que sean reales o generadas por IA.
La organización benéfica advirtió de la posibilidad de que estas imágenes se utilicen indebidamente o circulen por Internet, lo que podría tener consecuencias imprevistas, como el chantaje.
No es un caso aislado. Español y Escuelas de EE.UU. ambas han vivido últimamente sus propias polémicas con imágenes generadas por IA, en las que se intercambiaban imágenes ilícitas de menores.
Además, existe un debate considerable sobre quién es responsable de educar a los niños sobre los perjuicios de este tipo de material. ¿Corresponde a los padres, a las escuelas o a los gobiernos?
Investigación independiente de una empresa de tecnología educativa Tecnología RM en el que participaron 1.000 alumnos, demostró que casi un tercio utiliza la IA para actividades inapropiadas en línea.
Tasha Gibson, responsable de seguridad en línea de RM Technology, afirma: "El uso habitual de la IA por parte de los estudiantes es ya algo habitual".De hecho, su comprensión de la IA es más avanzada que la de la mayoría de los profesores, lo que crea una brecha de conocimientos".
Las aplicaciones facilitan la creación de imágenes ilícitas
Estas llamadas apps de "declive" aparecieron por primera vez en las plataformas de redes sociales en 2019, a menudo utilizadas en servicios de mensajería como Telegram como software automatizado con capacidades de IA.
Al principio, estas aplicaciones eran relativamente poco sofisticadas, pero los avances en IA generativa han mejorado su capacidad para crear imágenes falsas fotorrealistas.
La modelo implicada en el caso español contaba con casi 50.000 suscriptores. Normalmente, los usuarios pueden crear una serie de imágenes gratuitamente antes de tener que pagar una cuota.
En muchos casos, el uso de estas aplicaciones está motivado por la curiosidad, dice UKSIC, pero eso no constituye en absoluto una defensa legal.
Un hombre de Carolina del Norte se probablemente el primer individuo en ser condenado por delitos sexuales relacionados con la IA, recibiendo una pena de 40 años de prisión. Es poco probable que sea el último.
