Su Facebook sono stati promossi oltre 100 video pubblicitari falsi con protagonista il primo ministro britannico Rishi Sunak.
L'azienda di comunicazione online Fenimore Harper ha condotto la ricerca e ha pubblicato i risultati della ricerca. risultati di questo rapporto.
Gli annunci falsi hanno raggiunto circa 400.000 persone attraverso 143 inserzioni pubblicitarie, la cui origine è da ricercarsi in da Paesi come Stati Uniti, Turchia, Malesia e Filippine. Le spese pubblicitarie hanno probabilmente superato le 12.929 sterline.
Un esempio particolarmente eclatante è costituito da un filmato inventato in cui la giornalista della BBC Sarah Campbell riporta falsamente uno scandalo che coinvolge Sunak e un'app presumibilmente lanciata da Elon Musk.
L'annuncio sostiene che Elon Musk ha "lanciato un'applicazione in grado di condurre autonomamente transazioni azionarie e di mercato" e continua dicendo: "Posso garantire personalmente l'affidabilità di questa piattaforma di investimento".
Ha portato a una pagina di BBC News parodiata che promuoveva un investimento truffaldino.
Marcus Beard, fondatore di Fenimore Harper, ha spiegato, "Con l'avvento della clonazione vocale e facciale, facile da usare e a basso costo, bastano poche conoscenze e competenze per usare le sembianze di una persona per scopi malevoli".
Ha inoltre sottolineato il problema dell'insufficiente moderazione della pubblicità a pagamento su piattaforme come Facebook, osservando che "queste inserzioni sono contrarie a diverse politiche pubblicitarie di Facebook. Tuttavia, pochissimi degli annunci che abbiamo riscontrato sembrano essere stati rimossi".
In risposta, un portavoce del governo britannico ha dichiarato: "Stiamo lavorando a fondo in tutto il governo per assicurarci di essere pronti a rispondere rapidamente a qualsiasi minaccia ai nostri processi democratici attraverso la nostra taskforce per la difesa della democrazia e i team governativi dedicati".
"La nostra legge sulla sicurezza online va oltre, imponendo alle piattaforme sociali di rimuovere rapidamente la disinformazione illegale - anche quando è generata dall'intelligenza artificiale - non appena ne vengono a conoscenza".
La BBC, riconoscendo la crescente diffusione della disinformazione, ha invitato a vigilare. Un portavoce dichiaratoAbbiamo lanciato BBC Verify nel 2023 per affrontare la crescente minaccia della disinformazione, investendo in un team altamente specializzato con una serie di strumenti di intelligence forense e open source (OSINT) per indagare, verificare i fatti, verificare i video, contrastare la disinformazione, analizzare i dati e spiegare storie complesse".
"Costruiamo la fiducia del pubblico mostrando come i giornalisti della BBC conoscano le informazioni che riportano e offrendo spiegazioni su come individuare i contenuti fake e deepfake. Quando veniamo a conoscenza di contenuti falsi della BBC, agiamo rapidamente".
Anche Meta, la società madre di Facebook, ha risposto a queste preoccupazioni. Un portavoce di Meta ha commentato: "Rimuoviamo i contenuti che violano le nostre politiche, sia che siano stati creati dall'IA o da una persona".
La crescente sofisticazione e la prevalenza di falsi profondi generati dall'IA, soprattutto nel contesto delle campagne politiche, sollevano enormi interrogativi sull'integrità delle informazioni nell'era dell'IA.
I contenuti manipolati dall'intelligenza artificiale fanno pressione sulle elezioni
Mentre il mondo si prepara a una serie di elezioni di alto profilo nel 2024 e nel 2025, la disinformazione di massa nelle campagne politiche sta diventando un problema globale e pervasivo.
In Slovacchia, l'IA manipolata audio che ritrae falsamente Le immagini di personaggi politici sono emerse poco prima delle elezioni, sollevando l'allarme sulla capacità dell'IA di distorcere la narrazione politica.
Elezioni nazionali in Bangladesh hanno assistito a sfide simili, dove i rapporti hanno evidenziato l'uso da parte di gruppi filogovernativi di clip di notizie generate dall'intelligenza artificiale per influenzare l'opinione pubblica.
Le principali aziende tecnologiche, come Google e Meta, hanno iniziato a implementare politiche per la pubblicità politica, imponendo la divulgazione di qualsiasi forma di IA o alterazione digitale. Tuttavia, queste misure sono spesso insufficienti.
