Meer dan 100 nepvideo-advertenties met de Britse premier Rishi Sunak zijn gepromoot op Facebook.
Het online communicatiebedrijf Fenimore Harper voerde het onderzoek uit en publiceerde hun bevindingen in dit rapport.
De nepadvertenties bereikten mogelijk 400.000 mensen via 143 advertenties. uit landen als de VS, Turkije, Maleisië en de Filippijnen. De advertentie-uitgaven bedroegen waarschijnlijk meer dan £12.929.
Een bijzonder opvallend voorbeeld is een gefabriceerd filmpje van BBC-nieuwslezeres Sarah Campbell die valselijk verslag doet van een schandaal met Sunak en een app die naar verluidt is gelanceerd door Elon Musk.
De advertentie beweert dat Elon Musk "een applicatie heeft gelanceerd die in staat is om autonoom aandelen- en beurstransacties uit te voeren" en zegt verder: "Ik kan persoonlijk instaan voor de betrouwbaarheid van dit investeringsplatform."
Het leidde naar een vervalste BBC News pagina die een zwendelinvestering promootte.
Marcus Beard, de oprichter van Fenimore Harper, legt uit, "Met de komst van goedkoop, eenvoudig te gebruiken klonen van stemmen en gezichten is er maar weinig kennis en expertise nodig om iemands gelijkenis te gebruiken voor kwaadaardige doeleinden."
Hij benadrukte verder de kwestie van onvoldoende moderatie van betaalde advertenties op platforms zoals Facebook, waarbij hij opmerkte dat "deze advertenties in strijd zijn met verschillende van de reclamebeleidsregels van Facebook. Maar heel weinig van de advertenties die we tegenkwamen lijken te zijn verwijderd."
In een reactie verklaarde een woordvoerder van de Britse regering: "We werken in de hele regering intensief samen om ervoor te zorgen dat we klaar staan om snel te reageren op bedreigingen van onze democratische processen via onze defending democracy taskforce en speciale regeringsteams."
"Onze Online Safety Act gaat verder door nieuwe eisen te stellen aan sociale platforms om illegale desinformatie en desinformatie - ook als deze door AI is gegenereerd - snel te verwijderen zodra ze ervan op de hoogte zijn."
De BBC erkende dat desinformatie steeds vaker voorkomt en drong aan op waakzaamheid. Een woordvoerder verklaarde"We lanceerden BBC Verify in 2023 om de groeiende dreiging van desinformatie aan te pakken - door te investeren in een zeer gespecialiseerd team met een scala aan forensische en open source intelligence (OSINT) om onderzoek te doen, feiten te controleren, video's te verifiëren, desinformatie tegen te gaan, gegevens te analyseren en complexe verhalen te verklaren."
"We bouwen vertrouwen op bij het publiek door te laten zien hoe BBC journalisten de informatie die ze rapporteren kennen, en bieden uitleg over hoe je nep en deepfake content kunt herkennen. Wanneer we ons bewust worden van valse BBC content ondernemen we snel actie."
Meta, het moederbedrijf van Facebook, heeft ook op deze zorgen gereageerd. Een woordvoerder van Meta zei: "We verwijderen inhoud die ons beleid schendt, of die nu door AI of door een persoon is gemaakt."
De toenemende geavanceerdheid en prevalentie van door AI gegenereerde diepe vervalsingen, vooral in de context van politieke campagnes, roepen grote vragen op over de integriteit van informatie in het tijdperk van AI.
Door AI gemanipuleerde inhoud zet verkiezingen onder druk
Terwijl de wereld zich schrap zet voor een reeks spraakmakende verkiezingen in 2024 en 2025, wordt diepgaande valse desinformatie in politieke campagnes een alomtegenwoordig wereldwijd probleem.
In Slowakije, door AI gemanipuleerde audio die een vals beeld geeft van politieke figuren vlak voor de verkiezingen opgedoken, waardoor alarm werd geslagen over het vermogen van AI om politieke verhalen te verdraaien.
Nationale verkiezingen in Bangladesh vergelijkbare uitdagingenwaar berichten verschenen over het gebruik van AI-gegenereerde nieuwsclips door regeringsgezinde groepen om de publieke opinie te beïnvloeden.
Grote technologiebedrijven, zoals Google en Meta, zijn begonnen met het implementeren van beleid voor politieke advertenties, waarbij elke vorm van AI of digitale wijzigingen openbaar worden gemaakt. Deze maatregelen schieten echter vaak tekort.
