Se han promocionado en Facebook más de 100 anuncios de vídeo falsos en los que aparece el Primer Ministro del Reino Unido, Rishi Sunak.
La empresa de comunicación en línea Fenimore Harper realizó la investigación y publicó su conclusiones de este informe.
Los anuncios falsos llegaron a unas 400.000 personas a través de 143 anuncios. de países como Estados Unidos, Turquía, Malasia y Filipinas. Los gastos en publicidad superaron probablemente las 12.929 libras.
Un ejemplo especialmente llamativo incluye un clip inventado de la presentadora de noticias de la BBC Sarah Campbell informando falsamente de un escándalo relacionado con Sunak y una aplicación supuestamente lanzada por Elon Musk.
El anuncio afirma que Elon Musk ha "lanzado una aplicación capaz de realizar de forma autónoma transacciones bursátiles y de mercado" y continúa diciendo: "Yo personalmente puedo dar fe de la fiabilidad de esta plataforma de inversión."
Llevó a una página falsa de BBC News que promocionaba una inversión fraudulenta.
Marcus Beard, fundador de Fenimore Harper, explicó, "Con la llegada de la clonación barata y fácil de usar de la voz y la cara, se necesitan muy pocos conocimientos y experiencia para utilizar la semejanza de una persona con fines maliciosos".
Además, destacó el problema de la insuficiente moderación de la publicidad de pago en plataformas como Facebook, señalando que "estos anuncios van en contra de varias de las políticas publicitarias de Facebook. Sin embargo, muy pocos de los anuncios que encontramos parecen haber sido retirados".
En respuesta, un portavoz del gobierno británico declaró: "Estamos trabajando intensamente en todo el gobierno para asegurarnos de que estamos preparados para responder rápidamente a cualquier amenaza a nuestros procesos democráticos a través de nuestro grupo de trabajo para la defensa de la democracia y equipos gubernamentales especializados."
"Nuestra Ley de Seguridad Online va más allá al poner nuevos requisitos a las plataformas sociales para que eliminen rápidamente la desinformación y la desinformación ilegal -incluso cuando es generada por IA- tan pronto como tengan conocimiento de ella."
La BBC, reconociendo la creciente prevalencia de la desinformación, instó a la vigilancia. Un portavoz declaró, "Lanzamos BBC Verify en 2023 para hacer frente a la creciente amenaza de la desinformación - invirtiendo en un equipo altamente especializado con una gama de inteligencia forense y de fuente abierta (OSINT) para investigar, factcheck, verificar videos, contrarrestar la desinformación, analizar datos y explicar historias complejas."
"Construimos confianza con la audiencia mostrando cómo los periodistas de la BBC conocen la información de la que informan, y ofrecemos explicaciones sobre cómo detectar contenidos falsos y deepfake. Cuando tenemos conocimiento de contenidos falsos de la BBC, actuamos con rapidez".
Meta, la empresa matriz de Facebook, también ha abordado estas preocupaciones. Un portavoz de Meta comentó: "Eliminamos el contenido que infringe nuestras políticas, tanto si ha sido creado por IA como por una persona".
La creciente sofisticación y prevalencia de las falsificaciones profundas generadas por IA, especialmente en el contexto de las campañas políticas, plantea enormes interrogantes sobre la integridad de la información en la era de la IA.
Los contenidos manipulados por la IA presionan en las elecciones
Mientras el mundo se prepara para una serie de elecciones de alto nivel en 2024 y 2025, la desinformación falsa en las campañas políticas se está convirtiendo en un problema mundial generalizado.
En Eslovaquia, IA manipulada audio que retrata falsamente políticos justo antes de las elecciones, haciendo saltar las alarmas sobre la capacidad de la IA para distorsionar las narrativas políticas.
Elecciones nacionales en Bangladesh fueron testigos de retos similaresen el que los informes destacaban el uso por parte de grupos progubernamentales de noticias generadas por IA para influir en la opinión pública.
Las principales empresas tecnológicas, como Google y Meta, han empezado a aplicar políticas de publicidad política que obligan a revelar cualquier forma de IA o alteración digital. Sin embargo, estas medidas a menudo se quedan cortas.
