Over 100 dybt falske videoreklamer med den britiske premierminister Rishi Sunak er blevet promoveret på Facebook.
Online-kommunikationsvirksomheden Fenimore Harper gennemførte undersøgelsen og offentliggjorde deres resultater i denne rapport.
De dybt falske annoncer nåede ud til 400.000 mennesker på tværs af 143 annoncer, og de stammer fra fra lande som USA, Tyrkiet, Malaysia og Filippinerne. Annonceudgifterne oversteg sandsynligvis £12.929.
Et særligt slående eksempel er et opdigtet klip af BBC's nyhedsoplæser Sarah Campbell, der fejlagtigt rapporterer om en skandale, der involverer Sunak og en app, der angiveligt er lanceret af Elon Musk.
Reklamen hævder, at Elon Musk har "lanceret en applikation, der er i stand til autonomt at gennemføre aktie- og markedstransaktioner" og fortsætter med at sige: "Jeg kan personligt stå inde for pålideligheden af denne investeringsplatform."
Det førte til en spoofet BBC News-side, der reklamerede for en fupinvestering.
Marcus Beard, grundlæggeren af Fenimore Harper, forklarede, "Med fremkomsten af billig, letanvendelig stemme- og ansigtskloning kræver det meget lidt viden og ekspertise at bruge en persons lighed til ondsindede formål."
Han fremhævede desuden spørgsmålet om utilstrækkelig moderering af betalte reklamer på platforme som Facebook og bemærkede, at "disse reklamer er i strid med flere af Facebooks reklamepolitikker. Men meget få af de annoncer, vi stødte på, ser ud til at være blevet fjernet."
Som svar sagde en talsmand for den britiske regering: "Vi arbejder intensivt på tværs af regeringen for at sikre, at vi er klar til hurtigt at reagere på eventuelle trusler mod vores demokratiske processer gennem vores taskforce til forsvar for demokratiet og dedikerede regeringsteams."
"Vores lov om onlinesikkerhed går videre ved at stille nye krav til sociale platforme om hurtigt at fjerne ulovlig misinformation og desinformation - også når den er AI-genereret - så snart de bliver opmærksomme på den."
BBC anerkendte den stigende udbredelse af misinformation og opfordrede til årvågenhed. En talsmand Udtalt"Vi lancerede BBC Verify i 2023 for at imødegå den voksende trussel fra desinformation - og investerede i et højt specialiseret team med en række retsmedicinske og open source-oplysninger (OSINT) til at undersøge, faktatjekke, verificere video, modvirke desinformation, analysere data og forklare komplekse historier."
"Vi opbygger tillid hos publikum ved at vise, hvordan BBC's journalister kender de oplysninger, de rapporterer, og tilbyder forklaringer på, hvordan man spotter falsk og deepfake-indhold. Når vi bliver opmærksomme på falsk BBC-indhold, tager vi hurtigt affære."
Meta, som er moderselskab for Facebook, har også forholdt sig til disse bekymringer. En talsmand fra Meta kommenterede: "Vi fjerner indhold, der overtræder vores politikker, uanset om det er skabt af AI eller en person."
Den stigende sofistikering og udbredelse af AI-genererede deep fakes, især i forbindelse med politiske kampagner, rejser store spørgsmål om informationens integritet i AI-æraen.
AI-manipuleret indhold presser valget
Mens verden forbereder sig på en række højt profilerede valg i 2024 og 2025, er dyb falsk misinformation i politiske kampagner ved at blive et gennemgribende globalt problem.
I Slovakiet, AI-manipuleret lyd, der fejlagtigt portrætterer politiske figurer dukkede op lige før valget og skabte alarm om AI's evne til at fordreje politiske fortællinger.
Bangladesh' nationale valg oplevede lignende udfordringerhvor rapporter fremhævede regeringsvenlige gruppers brug af AI-genererede nyhedsklip til at påvirke den offentlige mening.
Store teknologivirksomheder som Google og Meta er begyndt at implementere politikker for politiske reklamer, der kræver offentliggørelse af enhver form for kunstig intelligens eller digitale ændringer. Men disse foranstaltninger kommer ofte til kort.
