Över 100 djupt falska videoreklamer med Storbritanniens premiärminister Rishi Sunak har spridits på Facebook.
Företaget Fenimore Harper, som arbetar med onlinekommunikation, genomförde undersökningen och publicerade sin resultat i denna rapport.
De djupt falska annonserna nådde 400.000 personer i 143 annonser, och deras ursprung härrörde från från länder som USA, Turkiet, Malaysia och Filippinerna. Annonsutgifterna översteg sannolikt 12.929 pund.
Ett särskilt slående exempel är ett fabricerat klipp där BBC:s nyhetsuppläsare Sarah Campbell falskeligen rapporterar om en skandal som involverar Sunak och en app som påstås ha lanserats av Elon Musk.
I annonsen påstås att Elon Musk har "lanserat en applikation som självständigt kan genomföra aktie- och marknadstransaktioner" och vidare att "jag personligen kan gå i god för tillförlitligheten hos denna investeringsplattform".
Det ledde till en förfalskad BBC News-sida som marknadsförde en bluffinvestering.
Marcus Beard, grundaren av Fenimore Harper, förklarade, "Nu när det finns billiga och lättanvända röst- och ansiktskloningar krävs det mycket lite kunskap och expertis för att använda en persons avbild i skadliga syften."
Han lyfte vidare fram frågan om otillräcklig moderering av betald reklam på plattformar som Facebook och konstaterade att "Dessa annonser strider mot flera av Facebooks reklampolicyer. Men väldigt få av de annonser vi stött på verkar ha tagits bort."
Som svar på detta sade en talesperson för den brittiska regeringen: "Vi arbetar intensivt inom hela regeringen för att säkerställa att vi är redo att snabbt reagera på eventuella hot mot våra demokratiska processer genom vår arbetsgrupp för att försvara demokratin och särskilda regeringsteam."
"Vår Online Safety Act går längre genom att ställa nya krav på sociala plattformar att snabbt ta bort olaglig felaktig information och desinformation - även när den är AI-genererad - så snart de blir medvetna om den."
BBC, som erkänner den ökande förekomsten av desinformation, uppmanade till vaksamhet. En talesman för uttalade"Vi lanserade BBC Verify 2023 för att ta itu med det växande hotet om desinformation - investera i ett högt specialiserat team med en rad kriminaltekniska och öppen källinformation (OSINT) för att undersöka, faktakontrollera, verifiera video, motverka desinformation, analysera data och förklara komplexa berättelser."
"Vi bygger förtroende hos publiken genom att visa hur BBC:s journalister känner till den information de rapporterar, och erbjuder förklaringar om hur man upptäcker falskt och deepfake-innehåll. När vi blir medvetna om falskt BBC-innehåll vidtar vi snabba åtgärder."
Meta, moderbolaget till Facebook, har också tagit upp dessa problem. En talesman från Meta kommenterade: "Vi tar bort innehåll som bryter mot vår policy oavsett om det skapades av AI eller en person."
Den ökande sofistikeringen och förekomsten av AI-genererade "deep fakes", särskilt i samband med politiska kampanjer, väcker stora frågor om informationsintegriteten i AI-eran.
AI-manipulerat innehåll sätter press på valet
Världen står inför en rad uppmärksammade val under 2024 och 2025, och djupt förfalskad felaktig information i politiska kampanjer håller på att bli ett genomgripande globalt problem.
I Slovakien, AI-manipulerad ljud som falskeligen skildrar politiska personer dök upp strax före valet, vilket väckte farhågor om AI:s förmåga att förvränga politiska berättelser.
Bangladesh nationella val bevittnat liknande utmaningardär det rapporterades om regeringsvänliga gruppers användning av AI-genererade nyhetsklipp för att påverka den allmänna opinionen.
Stora teknikföretag som Google och Meta har börjat implementera policyer för politisk reklam, med krav på att alla former av AI eller digitala ändringar ska redovisas. Dessa åtgärder är dock ofta otillräckliga.
