Djupa falska kryptoinvesteringsbedrägerier cirkulerar på Facebook och uppmuntrar användare att sätta in pengar på en falsk handelsplattform som garanterat kommer att tjäna dem tusentals kronor.
Det senaste i raden av AI-assisterade bedrägerier är en falsk artikel som beskriver den brittiska TV-personligheten Ben Fogle som marknadsför en falsk kryptoplattform i TV-programmet Good Morning Britain.
Detta kom fram genom en familjemedlem som upptäckte bedrägeriet på Facebook och ringde mig för att fråga om det.
De visste att något inte stod rätt till, men de tvekade lite. Det såg inte ut som en normal bluff.
Jag kunde inte hitta det ursprungliga innehållet för att analysera förekomsten av AI-genererade bilder, ljud eller video. Det verkar dock som om någon har lagt upp en kopierad och klistrad version av bedrägeriet på Medium här och här.
Medium-artiklarna innehåller skärmdumpade bilder, men dessa verkar inte vara AI-genererade.
Detta liknar en tidigare bedrägeri som involverade journalisten och programledaren Martin Lewis, vilket innehöll en djupt fejkad video av Martin Lewis tillsammans med en bild av Elon Musk.
Storbritanniens premiärminister Rishi Sunak var också måltavla genom hundratals djupa falska bedrägerier, återigen främst publicerad på Facebook.
I Martin Lewis-incidenten talade Lewis digitala avatar, en bekräftad AI-genererad videoförfalskning, "Elon Musk presenterade sitt nya projekt i vilket han redan har investerat mer än $3 miljarder (2,4 miljarder pund). Musks nya projekt öppnar upp stora investeringsmöjligheter för brittiska medborgare. Inget projekt har någonsin gett sådana möjligheter till invånare i landet. Med tanke på de intressanta funktionerna i appen och efter att ha sett hur den fungerar, tycker vi att det är säkert att säga att upplevelsen är legitim."
Lewis framträdde senare i TV-programmet "Good Morning Britain" för att fördöma bluffen som falsk, uttalande"Det här är en rejäl bluff. Jag menar att de har satt ihop det, vi är inte helt säkra på den exakta tekniken. Det här sprids på Facebook just nu och det här är, såvitt jag vet, den första deepfake-bluffannonsen som vi har sett."
Det djupt falska roulettehjulet
För dem som inte känner till Ben Fogle blev han känd för att ha vunnit Castaway 2000, ett realityprogram som följde 36 personer som var strandsatta på den skotska ön Taransay under ett år.
Bedrägeriet säger:
"Engelsk författare, skådespelare, programledare och komiker. Fogle har också varit en offentlig aktivist, Ben Fogle har gjort sig känd som en fräck och rak person som inte har något emot att vara ärlig om hur han tjänar sina pengar."
"Förra veckan dök han upp på The This Morning Show och tillkännagav ett nytt "rikedomskryphål" som han säger kan förvandla vem som helst till miljonär inom 3-4 månader. Fogle uppmanade alla i Storbritannien att hoppa in i denna fantastiska möjlighet innan de stora bankerna stänger ner den för gott."
En artikel fortsätter med en falsk utskrift från ett samtal med Good Morning Britain-sändarna Ben Shepherd och Susanna Reid:
"Ben Fogle: "Tänk på det. Om en man kan bli miljonär på mindre än två månader, varför fortsätta arbeta? Visst, alla kan använda min metod, men vem skulle arbeta på restauranger, i butiker eller på fabriker om alla var rika?"
Ben Shephard: "Det här låter för bra för att vara sant. Jag har alltid trott att du är ärlig och uppriktig, men nu tror jag inte på dig."
Ben Fogle : "Kallade du mig just för lögnare? Huh, jag ska bevisa för dig att vilken fattig britt som helst kan tjäna tusentals GBP pund om dagen genom att bara spendera 10-20 minuter fritid om dagen. Jag ska visa dig hur mycket jag tjänar på att göra det själv. Lång historia kort, aktier har något att göra med det, och alla blir rika på dem just nu."
Bank of England nämndes också i bedrägeriet:
"Strax därefter ringde Bank of England till studion. Deras rädsla fick dem att kräva att direktsändningen skulle stoppas omedelbart. Att dra nytta av Immediate Xgen AI skulle leda till att banksystemet förlorade kunder. Det enda folk skulle använda sina kort till skulle vara att ta ut sina inkomster från plattformen. Det är inte lönsamt för någon bank."
Artiklarna pekar på en landningssida med kryptovaluta-tema som uppmanar användare att registrera sig, sätta in pengar och börja handla.
Det står att när du registrerar dig ska du förvänta dig ett samtal från en "account manager" som bekräftar ditt konto.
Nya taktiker för gamla motiv
Fogle var måltavla för någon låtsas vara honom tidigare i år, men han är kanske inte den främsta kandidaten för en investeringsbluff jämfört med ekonomijournalisten Martin Lewis.
Detta väcker misstankar om att bedragare kan rikta in sig på många offentliga personer och driva innehållet genom riktade Facebook-annonser.
Min familjemedlem hade tyckt om Ben Fogles program "Nya liv i det vilda".
Coincidence? Kanske, men bedragare är mer benägna att lyckas genom att rikta in sig på specifika intressen, vilket Metas annonsplattform möjliggör.
Tidigare studier av AI-drivna bedrägerier visar hur tekniken möjliggör bedrägliga taktiker i en enorm skala.
Det är spekulativt, men det kan finnas många iterationer av dessa ultramålinriktade bedrägerier som lurar runt sociala medieplattformar.
Martin Lewis har tidigare diskuterat hur företag som arbetar med sociala medier inte gör tillräckligt för att förhindra bedrägerier. Detta involverade en stämning med Facebook, som gick med på att donera 3 miljoner pund till Citizens Advice och startat ett projekt för att förhindra bluffannonser.
Lewis sa till Good Morning Britain: "Vi har fortfarande en absolut Wildwest på sociala medier och andra stora tekniska reklamplattformar som gör att bedragare kan komma undan med straffrihet."
Med den senaste Ben Fogle-incidenten är det uppenbart att lite har förändrats. Det är bara en fråga om vilka offentliga personer som kommer att dyka upp nästa gång på det djupt falska roulettehjulet.
Utbildning är nyckeln i kampen mot deep fakes och andra former av AI-assisterade bedrägerier.
Samtalen om djupa förfalskningar i media verkar åtminstone ha en viss inverkan på allmänhetens medvetenhet.
