Destacadas plataformas de redes sociales -Facebook, Instagram y TikTok- han sido objeto de escrutinio por albergar anuncios que sexualizan abiertamente a los avatares de IA.
Las empresas anuncian aplicaciones para adultos a través de imágenes y diálogos sexualmente explícitos en las redes sociales, algunos de los cuales implican la sexualización de figuras infantiles.
Según Noticias NBC35 desarrolladores de aplicaciones publican anuncios con contenido sexual explícito en las redes sociales.
Una característica notable de estos anuncios es su tendencia a utilizar indebidamente personajes infantiles, como Bob Esponja y el Monstruo de las Galletas, para promocionar contenidos para adultos.
Lo más alarmante es que algunos anuncios han incorporado personajes generados por IA que se asemejan a menores, normalmente representados en estilo anime.
No es la primera vez que los contenidos generados por inteligencia artificial se utilizan para distorsionar y manipular las directrices de la comunidad y los filtros de contenidos. generar animaciones de niños asesinados y hacerles recitar sus destinos.
Meta y TikTok dijeron que están purgando estos anuncios de sus plataformas, pero se han abstenido de comentar cómo los anuncios evaden sus filtros de contenido.
Lo más probable es que los filtros de contenidos estén entrenados en contenidos explícitos no generados por IA, por lo que los contenidos generados por IA se cuelan fácilmente en la red.
Sin embargo, Meta declaró que sus "políticas prohíben los anuncios con contenido para adultos que sea excesivamente sugerente o sexualmente provocativo, tanto si está generado por IA como si no".
¿Quién publica las aplicaciones?
Decenas de desarrolladores de aplicaciones desconocidos se aprovechan de esta laguna y publican anuncios que prometen "fotos NSFW", "chicas pin-up personalizadas", "novias digitales" y "chats sin censura".
Muchas empresas están ubicadas en países como Bielorrusia y China, y las aplicaciones suelen descargarse gratuitamente de las tiendas de aplicaciones de Google y Apple.
Los ingresos se generan principalmente a través de compras dentro de la aplicación y suscripciones.
Lo que llama la atención es la inconsistencia en la clasificación por edades de estas aplicaciones: algunas están restringidas a un público mayor, mientras que otras se consideran apropiadas para adolescentes.
NBC News probó tres de estos chatbots. Uno permitía a los usuarios crear sus propias imágenes NSFW, y otro se basaba exclusivamente en clics y en argumentos explícitos predeterminados.
Entre ellas se encontraba la infame Replika, recientemente vinculada a un complot de asesinato para matar a la Reina Isabel II.
La opinión pública sobre la publicidad en línea de estos chatbots ha estado polarizada. Los comentarios en Instagram, por ejemplo, iban de "muy distópico" a "simplemente triste", y algunos señalaban que los personajes generados por IA parecían incómodamente infantiles.
Las próximas normativas de la UE y Estados Unidos van a presionar a las empresas de redes sociales para que tomen medidas contra los contenidos generados por inteligencia artificial, pero otra cosa es si su tecnología de filtrado puede ofrecer los resultados esperados.
