Rostros robados, vidas robadas: La inquietante tendencia de la explotación impulsada por la IA.
La mayoría de los usuarios de redes sociales se habrán topado alguna vez con un influencer que parece un poco... raro.
Quizás sus rasgos faciales sean demasiado simétricos y sus posturas demasiado rígidas. Lo más probable es que no estés viendo a un ser humano, sino una falsificación generada por inteligencia artificial.
En algunos casos, estos Influencers de IA son razonablemente inofensivas: son simplemente versiones digitales de sus contrapartes reales, pero no intentan engañar ni manipular abiertamente.
Sin embargo, no siempre es así. Resulta inquietante que exista una red de cuentas de Instagram que utilizan inteligencia artificial para crear influencers falsos con síndrome de Down. ¿El objetivo? Explotar a una comunidad vulnerable para conseguir likes, comparticiones y, en última instancia, dinero en efectivo.
Pero el engaño no termina ahí. Muchas de estas cuentas enlazan con sitios web para adultos de dudosa reputación, donde se monetiza el contenido generado por IA.
Ver esta publicación en Instagram
Lamentablemente, esta es solo la última evolución de la tendencia del "proxenetismo con IA", donde operadores sin escrúpulos utilizan el aprendizaje automático para crear influencers falsos con fines lucrativos. No se trata solo de personas con síndrome de Down, sino también de modelos falsas con amputaciones, víctimas de quemaduras y otras formas de pornografía generada por IA.
Los modelos de imagen y vídeo creados con IA están alcanzando un nivel de realismo que los convierte en sustitutos muy viables de los humanos reales. Esto está afectando a la industria de la moda, donde las modelos reales se enfrentan al riesgo de ser reemplazadas por clones de IA.
Incluso marcas tan conocidas como H&M se están adentrando en estas aguas turbias. El gigante de la moda rápida recientemente... anunció una campaña que presenta “gemelos digitales” generados por IA de modelos reales. En 2023, una empresa llamada lalaland.ai lanzó herramientas para creación de modelos de IA por una cuota de suscripción.
Si bien H&M insiste en que las modelos mantienen el control sobre su imagen digital, muchos en la industria se muestran escépticos. Al fin y al cabo, en una época de recortes de gastos y consolidación, ¿para qué contratar talento humano cuando se puede licenciar un avatar digital barato e infinitamente replicable?
El giro más reciente e insidioso en este caso atenta contra la dignidad y la humanidad fundamentales de las comunidades marginadas.
Las personas con síndrome de Down, o con cualquier otra discapacidad, no son objetos que puedan ser manipulados con fines de lucro.
Además, la proliferación de contenido generado por IA amenaza con erosionar por completo la confianza pública en los medios de comunicación. Si no podemos confiar en las imágenes que vemos en línea, los cimientos mismos del discurso digital comienzan a tambalearse.
Así que la próxima vez que estés navegando por tu feed y un influencer te parezca demasiado bueno para ser verdad, confía en tu instinto.
