Over 100 falske videoannonser med Storbritannias statsminister Rishi Sunak har blitt markedsført på Facebook.
Fenimore Harper, som er et selskap innen nettbasert kommunikasjon, har gjennomført undersøkelsen og publisert sin funnene i denne rapporten.
De falske annonsene nådde ut til 400 000 personer fordelt på 143 annonser, og de stammer fra fra land som USA, Tyrkia, Malaysia og Filippinene. Annonseutgiftene oversteg sannsynligvis 12 929 pund.
Et spesielt slående eksempel er et oppdiktet klipp av BBCs nyhetsoppleser Sarah Campbell som feilaktig rapporterer om en skandale som involverer Sunak og en app som angivelig er lansert av Elon Musk.
I reklamen hevdes det at Elon Musk har "lansert en applikasjon som er i stand til å gjennomføre aksje- og markedstransaksjoner på egen hånd", og videre: "Jeg kan personlig gå god for påliteligheten til denne investeringsplattformen."
Det førte til en forfalsket BBC News-side som reklamerte for en svindelinvestering.
Marcus Beard, grunnleggeren av Fenimore Harper, forklarte, "Med billige og brukervennlige kloninger av stemmer og ansikter er det svært lite kunnskap og ekspertise som skal til for å bruke en persons likhet til ondsinnede formål."
Han fremhevet videre problemet med utilstrekkelig moderering av betalt reklame på plattformer som Facebook, og bemerket at "Disse annonsene er i strid med flere av Facebooks retningslinjer for annonsering. Men svært få av annonsene vi fant, ser ut til å ha blitt fjernet."
En talsperson for den britiske regjeringen uttalte: "Vi jobber på tvers av regjeringen for å sikre at vi er klare til å reagere raskt på eventuelle trusler mot våre demokratiske prosesser gjennom vår arbeidsgruppe for å forsvare demokratiet og dedikerte regjeringsteam."
"Vår lov om sikkerhet på nettet går enda lenger ved å stille nye krav til sosiale plattformer om raskt å fjerne ulovlig feilinformasjon og desinformasjon - også når den er generert av kunstig intelligens - så snart de blir oppmerksomme på den."
BBC, som erkjenner den økende utbredelsen av desinformasjon, oppfordret til årvåkenhet. En talsperson oppgitt"Vi lanserte BBC Verify i 2023 for å møte den økende trusselen fra desinformasjon - og investerte i et høyt spesialisert team med en rekke rettsmedisinske og åpne kilder (OSINT) for å etterforske, faktasjekke, verifisere video, motvirke desinformasjon, analysere data og forklare komplekse historier."
"Vi bygger tillit hos publikum ved å vise hvordan BBC-journalistene kjenner informasjonen de rapporterer, og vi tilbyr forklaringer på hvordan man kan oppdage falskt og deepfake-innhold. Når vi blir oppmerksomme på falskt BBC-innhold, tar vi raskt affære."
Meta, morselskapet til Facebook, har også adressert disse bekymringene. En talsperson fra Meta kommenterte: "Vi fjerner innhold som bryter med retningslinjene våre, enten det er skapt av AI eller en person."
Den stadig mer sofistikerte og utbredte bruken av AI-genererte "deep fakes", særlig i forbindelse med politiske kampanjer, reiser store spørsmål om informasjonsintegriteten i AI-æraen.
AI-manipulert innhold presser valget
Mens verden forbereder seg på en rekke høyprofilerte valg i 2024 og 2025, er falsk feilinformasjon i politiske kampanjer i ferd med å bli et gjennomgripende globalt problem.
I Slovakia har AI-manipulerte lyd som feilaktig fremstiller politiske figurer dukket opp rett før valget, noe som skapte bekymring for at kunstig intelligens kan forvrenge politiske narrativer.
Bangladesh' nasjonale valg vært vitne til lignende utfordringerhvor det ble rapportert om regjeringsvennlige gruppers bruk av AI-genererte nyhetsklipp for å påvirke opinionen.
Store teknologiselskaper som Google og Meta har begynt å implementere retningslinjer for politisk reklame, med krav om å opplyse om alle former for kunstig intelligens eller digitale endringer. Disse tiltakene kommer imidlertid ofte til kort.
