El Instituto para el Diálogo Estratégico (ISD) analizó una campaña de influencia en Internet orquestada por una red china para perturbar las elecciones presidenciales estadounidenses.
Esta operación, apodada "Spamouflage" por sus tácticas engañosas, ha sido vinculada al Partido Comunista de China (PCCh).
La campaña emplea IA y una red de cuentas en las redes sociales para debatir y provocar temas electorales en Estados Unidos, incluidos asuntos como la drogadicción, la falta de vivienda y la violencia armada.
Alrededor de la mitad de la población mundial que participan en las elecciones de este añolo que ha provocado una inquietud generalizada sobre el potencial de las falsificaciones profundas de IA para amplificar la desinformación e influir en los comportamientos de voto.
En particular, la campaña "Spamouflage" utiliza imágenes generadas y manipuladas por inteligencia artificial de figuras políticas como Joe Biden y Donald Trump para acentuar y explotar las divisiones políticas.
En El informe de la DSI revelaLa campaña en línea utilizó inteligencia artificial (IA) y una red de cuentas en redes sociales en un aparente intento de difamar la imagen de Estados Unidos como nación plagada de drogadicción, falta de vivienda y violencia armada".
Elise Thomas, de la ISD, dijo sobre las notas del informe: "Entre las narrativas propagadas se encuentran afirmaciones que implican el consumo de drogas por parte del Presidente Biden para mejorar su rendimiento al hablar en público y acusaciones de corrupción".
Esta operación, que se cree de origen chino, lleva activa al menos desde 2017.
En abril de 2023 se produjeron nuevos acontecimientos cuando el Departamento de Justicia de Estados Unidos acusó a 40 empleados del Grupo de Trabajo de Proyectos Especiales 912 del Ministerio de Seguridad Pública chino, señalando su implicación en lo que probablemente sea la campaña "Spamouflage".
El foco del "Spamouflage" ha pivotado ahora hacia la contienda entre Biden y Trump. Las imágenes son evidentemente generadas por IA, una táctica común entre los actores de amenazas que utilizan la tecnología para crear falsificaciones profundas visualmente impactantes y de alta calidad.
OpenAI y Microsoft colaboraron recientemente para desbaratar a los actores de amenazas que utilizan sus tecnologías de IA con fines propagandísticos y de falsificación profunda.
Sin embargo, las imágenes falsas profundas siguen colándose en los sistemas de detección de contenidos para ser vistas por millones de personas.
Narrativas de la campaña "Spamouflage
La DSI, creada en 2006 como organización no partidista y sin ánimo de lucro con el propósito de atajar la desinformación, identificó varias narrativas clave entre los contenidos:
Divisibilidad de las elecciones: Esta narrativa retrata las elecciones como un catalizador para una mayor división, exacerbando los desafíos existentes en Estados Unidos. Las imágenes muestran a menudo a Biden y Trump enfrentados, aludiendo a las profundas divisiones políticas que se están explotando.
Enfoque negativo en Biden: La campaña parece apuntar desproporcionadamente al Presidente Biden con narrativas negativas, incluyendo acusaciones de corrupción y consumo de drogas. Esto podría ser una elección estratégica o simplemente reflejar que es el actual presidente.
Postura ambigua sobre Trump: Curiosamente, los contenidos relacionados con Trump suelen tener un tono ambiguo que podría interpretarse como positivo.
Narrativas sobre la decadencia nacional: Una parte significativa del contenido se centra en pintar un panorama sombrío de Estados Unidos, tocando la decadencia urbana, la crisis de los opioides y la violencia armada para fomentar una sensación de caos.
Cuestionar la integridad de las elecciones: Aunque no es un tema principal, hay contenidos que ponen en duda la integridad de las elecciones.
Política de aborto: El tema del aborto aparece en algunas imágenes, con un contenido que sugiere la inadecuación de Biden para proteger el derecho al aborto, yuxtapuesto a las afirmaciones de que Trump busca una prohibición federal del aborto.
El spamouflage podría tener influencia internacional
La red "Spamouflage" operaba principalmente en Estados Unidos, pero Equipo OSINT de India Today descubrió pruebas de las actividades de la campaña en la India. Es imposible saber cuántas campañas de este tipo están activas actualmente en todo el mundo.
La respuesta de Meta a esta campaña ha sido rápida, eliminando miles de cuentas vinculadas al contenido. Sin embargo, X fue criticada por su lenta respuesta.
A pesar de los grandes esfuerzos de la campaña "Spamouflage", su eficacia en términos de compromiso real por parte de los usuarios de las redes sociales sigue siendo cuestionable.
El informe de la DSI sugiere que la mayoría de los contenidos generados por esta red no logran resonar entre el público, lo que conduce a una interacción mínima.
IHay que decir que la mayoría de los mensajes son francamente ridículos. Se entiende por qué se desestiman de inmediato.
Sin embargo, la investigación ha demostrado que las imágenes falsas profundas tienen un impacto tangible en los procesos de toma de decisiones humanas, por lo que es demasiado pronto para descartar sus repercusiones.
En cualquier caso, la campaña "Spamouflage" vuelve a recordarnos el papel de la IA en una marea creciente de desinformación sofisticada.
