På Facebook sirkulerer det falske kryptoinvesteringssvindler som oppfordrer brukere til å sette inn penger på en falsk handelsplattform som garantert vil gi dem tusenvis av kroner.
Den siste i rekken av AI-assisterte svindelforsøk involverer en falsk artikkel som beskriver den britiske TV-personligheten Ben Fogle som promoterer en falsk kryptoplattform på TV-programmet Good Morning Britain.
Dette kom frem gjennom et familiemedlem som oppdaget svindelen på Facebook og ringte meg for å spørre om det.
De visste at noe var galt, men de nølte litt. Det så ikke ut som en vanlig svindel.
Jeg kunne ikke finne originalinnholdet for å analysere forekomsten av AI-genererte bilder, lyd eller video. Det ser imidlertid ut til at noen har lagt ut en kopiert og limt versjon av svindelen på Medium her og her.
Medium-artiklene inneholder skjermbilder, men disse ser ikke ut til å være AI-genererte.
Dette ligner en tidligere svindel som involverer journalisten og kringkasteren Martin Lewis, som inneholdt en dypt falsk video av Martin Lewis sammen med et bilde av Elon Musk.
Storbritannias statsminister Rishi Sunak ble også angrepet gjennom hundrevis av falske svindelforsøkigjen først og fremst lagt ut på Facebook.
I Martin Lewis-hendelsen snakket Lewis' digitale avatar, en bekreftet AI-generert video-falsk, "Elon Musk presenterte sitt nye prosjekt som han allerede har investert mer enn $3 milliarder (2,4 milliarder pund) i. Musks nye prosjekt åpner for store investeringsmuligheter for britiske borgere. Ingen prosjekter har noen gang gitt slike muligheter til innbyggere i landet. Gitt de interessante funksjonene i appen og etter å ha sett hvordan den fungerer, tror vi det er trygt å si at opplevelsen er legitim."
Lewis dukket senere opp på TV-programmet "Good Morning Britain" for å fordømme svindelen som falsk, med angivelse av"Dette er en dyp forfalskning. Jeg mener at de har satt den sammen, vi er ikke helt sikre på den nøyaktige teknologien. Dette går rundt på Facebook for øyeblikket, og så vidt jeg vet, er dette den første deepfake-svindelannonsen vi har sett."
Det dype, falske ruletthjulet
Ben Fogle ble kjent da han vant Castaway 2000, et reality-TV-program som fulgte 36 personer som var strandet på den skotske øya Taransay i ett år.
Svindelen sier:
"Engelsk forfatter, skuespiller, programleder og komiker. Fogle har også vært en offentlig aktivist, og Ben Fogle har gjort seg bemerket som en freidig straight-talker som ikke har noe imot å være ærlig om hvordan han tjener pengene sine."
"I forrige uke dukket han opp på The This Morning Show og kunngjorde et nytt "smutthull for rikdom" som han sier kan forvandle hvem som helst til millionær i løpet av 3-4 måneder. Fogle oppfordret alle i Storbritannia til å benytte seg av denne fantastiske muligheten før de store bankene stenger den for godt."
Den ene artikkelen fortsetter med en falsk utskrift fra en samtale med Good Morning Britain-programlederne Ben Shepherd og Susanna Reid:
"Ben Fogle: "Tenk på det. Hvis man kan bli millionær på mindre enn to måneder, hvorfor skal man da fortsette å jobbe? Alle kan jo bruke min metode, men hvem ville jobbet i restauranter, butikker eller fabrikker hvis alle var velstående?"
Ben Shephard: "Dette høres for godt ut til å være sant. Jeg har alltid trodd at du er ærlig og oppriktig, men nå tror jeg ikke på deg."
Ben Fogle: "Kalte du meg nettopp en løgner? Jeg skal bevise for deg at enhver stakkars brite kan tjene tusenvis av pund om dagen bare ved å bruke 10-20 minutter av fritiden sin hver dag. Jeg skal vise deg hvor mye jeg selv tjener på det. Kort sagt, aksjer har noe med det å gjøre, og alle blir rike på dem akkurat nå."
Bank of England ble også nevnt i svindelen:
"Kort tid etter ringte Bank of England til studioet. Frykten fikk dem til å kreve at direktesendingen ble stanset umiddelbart. Å dra nytte av Immediate Xgen AI ville føre til at banksystemet mistet kunder. Det eneste folk ville bruke kortene sine til, ville være å ta ut inntektene sine fra plattformen. Det er ikke lønnsomt for noen bank."
Artiklene peker til en landingsside med kryptovaluta-tema som ber brukere registrere seg, sette inn penger og begynne å handle.
Det står at når du registrerer deg, kan du forvente å bli oppringt av en "account manager" som vil bekrefte kontoen din.
Nye taktikker for gamle motiver
Fogle ble angrepet av noen å late som om du er ham tidligere i år, men han er kanskje ikke en like god kandidat for en investeringssvindel som finansjournalisten Martin Lewis.
Dette gir mistanke om at svindlere kan ha rettet seg mot en rekke offentlige personer og pushet innholdet gjennom målrettede Facebook-annonser.
Familiemedlemmet mitt hadde hatt glede av Ben Fogles program "New Lives in the Wild".
Cen tilfeldighet? Kanskje, men det er mer sannsynlig at svindlere lykkes ved å målrette mot spesifikke interesser, noe Metas annonseplattform muliggjør.
Tidligere studier av AI-drevet svindel viser hvordan teknologien muliggjør svindelmetoder i enorm skala.
Det er spekulativt, men det kan være mange iterasjoner av disse ultra-målrettede svindelforsøkene som lurer rundt på sosiale medieplattformer.
Martin Lewis har tidligere diskutert hvordan sosiale medier-selskaper ikke gjør nok for å forhindre svindel. Dette involverte et søksmål mot Facebook, som gikk med på å donere 3 millioner pund til Citizens Advice og opprettet et prosjekt for å forhindre svindelannonser.
Lewis sa til Good Morning Britain: "Vi har fortsatt en absolutt Wildwest på sosiale medier og andre store teknologiske annonseplattformer som gjør at svindlere slipper ustraffet unna."
Med den siste Ben Fogle-hendelsen er det tydelig at lite har endret seg. Det er bare et spørsmål om hvilke offentlige personer som dukker opp på det dype falske ruletthjulet neste gang.
Opplæring er nøkkelen til å bekjempe deep fakes og andre former for AI-assistert svindel.
Samtalene i mediene om dype forfalskninger ser i det minste ut til å ha en viss innvirkning på den offentlige bevisstheten.
