Los fiscales de los 50 estados de EE.UU. instan al Congreso a tomar medidas contra la posible explotación de menores a través de pornografía generada por inteligencia artificial.
En una carta dirigida a los líderes republicanos y demócratas tanto de la Cámara de Representantes como del Senado, los fiscales generales de todo el país pidieron a los legisladores que "establezcan una comisión de expertos para estudiar los medios y métodos de IA que pueden utilizarse para explotar específicamente a menores" y que amplíen las leyes actuales para incluir el material de abuso sexual infantil generado por IA.
"Estamos inmersos en una carrera contrarreloj para proteger a los niños de nuestro país de los peligros de la IA", reza la carta, que fue compartida previamente con Associated Press (AP).
"De hecho, los proverbiales muros de la ciudad ya han sido traspasados. Ahora es el momento de actuar".
La iniciativa fue liderada por el Fiscal General de Carolina del Sur, Alan Wilson, que recabó el apoyo de los 50 estados.
Wilson se mostró optimista ante la posibilidad de que el apoyo bipartidista a esta cuestión se traduzca en medidas legislativas. "Todo el mundo está centrado en todo lo que nos divide", dijo Wilson.
Y continuó: "Mi esperanza sería que, por muy extremos o polos opuestos que puedan ser los partidos y las personas del espectro, uno pensaría que proteger a los niños de las tecnologías nuevas, innovadoras y explotadoras sería algo en lo que incluso los individuos más diametralmente opuestos pueden estar de acuerdo, y parece que lo están".
Comienza la carrera para proteger a los niños de los riesgos relacionados con la IA
Esto sigue a un Declaración del Foro Económico Mundial (FEM) pedir a los responsables políticos que formulen medidas de protección para proteger a los niños de los daños relacionados con la IA.
Las imágenes pedófilas generadas por inteligencia artificial y las imágenes que parecen sexualizar a los niños están apareciendo en Internet, incluso en anuncios en redes sociales.
Wilson también señaló varios riesgos que entrañan las tecnologías de IA, como la creación de escenarios "deepfake" con menores o la alteración de la imagen de un niño real para representar abusos.
"Su hijo nunca fue agredido, su hijo nunca fue explotado, pero su imagen se está utilizando como si lo hubiera sido", señaló.
Esto ya ha sucedido a adultos: el FBI emitió recientemente un comunicado advirtiendo a la gente contra Explotación sexual generada por IA.'
Otra preocupación que planteó fue la creación digital de niños ficticios con fines de explotación.
"El argumento sería: 'bueno, no estoy perjudicando a nadie; de hecho, ni siquiera es una persona real', pero estás creando demanda para la industria que explota a los niños", afirma Wilson.
Aunque el Congreso aún no ha promulgado una legislación exhaustiva sobre IA, en el sector tecnológico se han tomado algunas medidas para abordar esta cuestión.
Plataformas como Meta, OnlyFans y Pornhub han empezado a utilizar una herramienta en línea llamada "Take It Down", que permite a los adolescentes denunciar imágenes y vídeos explícitos, incluidos los contenidos generados por IA.
Este parece ser un problema mundial, y queda mucho trabajo por hacer para garantizar la protección de los niños frente a los múltiples riesgos relacionados con la IA.
