Op Facebook circuleert een grote zwendel met valse crypto-investeringen, waarbij gebruikers worden aangemoedigd om geld te storten op een vals handelsplatform dat hen gegarandeerd duizenden euro's zal opleveren.
De laatste in een reeks van AI-ondersteunde zwendelpraktijken betreft een nepartikel over de Britse TV-persoonlijkheid Ben Fogle die een nep cryptoplatform promoot in het TV-programma Good Morning Britain.
Dit kwam aan het licht door een familielid die de zwendel op Facebook zag en me belde om ernaar te vragen.
Ze wisten dat er iets niet klopte, maar er was enige aarzeling. Het leek niet op een normale zwendel.
Ik kon de originele inhoud niet vinden om de aanwezigheid van AI-gegenereerde afbeeldingen, audio of video te analyseren. Het lijkt er echter op dat iemand een gekopieerde en geplakte versie van de zwendel op Medium heeft geplaatst hier en hier.
De artikelen op Medium bevatten schermafbeeldingen, maar deze lijken niet door AI gegenereerd.
Dit lijkt op een vorige oplichterij waarbij journalist en omroeper Martin Lewis betrokken was en die bevatte een nepvideo van Martin Lewis naast een afbeelding van Elon Musk.
De Britse premier Rishi Sunak was ook het doelwit via honderden diepe nepzwendelsopnieuw voornamelijk gepost op Facebook.
In het incident met Martin Lewis sprak de digitale avatar van Lewis, een bevestigde AI-gegenereerde nepvideo, "Elon Musk presenteerde zijn nieuwe project waarin hij al meer dan $3bn (£2.4bn) heeft geïnvesteerd. Musks nieuwe project biedt geweldige investeringsmogelijkheden voor Britse burgers. Geen enkel project heeft ooit zulke kansen geboden aan inwoners van het land. Gezien de interessante functies van de app en gezien hoe het werkt, denken we dat het veilig is om te zeggen dat de ervaring legitiem is."
Lewis verscheen later in het tv-programma "Good Morning Britain" om de zwendel als nep aan te klagen, onder vermelding van"Dit is een diepe vervalsing. Ik bedoel, ze hebben het in elkaar gezet, we zijn niet helemaal zeker van de exacte techniek. Dit gaat momenteel rond op Facebook en dit is, voor zover ik weet, de eerste deepfake scam advertentie die we hebben gezien."
Het diepe nep-roulettewiel
Ben Fogle is bekend geworden door het winnen van Castaway 2000, een reality tv-programma waarin 36 mensen werden gevolgd die een jaar lang vastzaten op het Schotse eiland Taransay.
De zwendel zegt:
"Engelse schrijver, acteur, presentator en komiek. Fogle is ook een publiek activist geweest, Ben Fogle heeft naam gemaakt als een brutale recht-door-zee spreker die het niet erg vindt om eerlijk te zijn over hoe hij zijn geld verdient."
"Vorige week verscheen hij in de This Morning Show en kondigde een nieuwe "rijkdom maas in de wet" aan die volgens hem iedereen binnen 3-4 maanden in een miljonair kan veranderen. Fogle spoorde iedereen in het Verenigd Koninkrijk aan om in deze geweldige kans te springen voordat de grote banken het voorgoed sluiten."
Eén artikel gaat verder met een vervalst transcript van een gesprek met Good Morning Britain-omroepers Ben Shepherd en Susanna Reid:
"Ben Fogle: "Denk er eens over na. Als iemand miljonair kan worden in minder dan twee maanden, waarom zou hij dan blijven werken? Zeker, iedereen kan mijn methode gebruiken, maar wie zou er in restaurants, winkels of fabrieken werken als iedereen rijk was?"
Ben Shephard: "Dit klinkt te mooi om waar te zijn. Ik heb altijd geloofd dat je eerlijk en oprecht was, maar ik geloof je niet."
Ben Fogle : "Noemde je me net een leugenaar? Huh, ik zal je bewijzen dat elke arme Brit duizenden Britse ponden per dag kan verdienen door slechts 10-20 minuten vrije tijd per dag te spenderen. Ik zal je laten zien hoeveel ik er zelf mee verdien. Om een lang verhaal kort te maken, aandelen hebben er iets mee te maken en iedereen wordt er op dit moment rijk van."
De Bank of England werd ook genoemd in het bedrog:
"Kort daarna belde de Bank of England naar de studio. Uit angst eisten ze dat de live-uitzending onmiddellijk zou worden stopgezet. Door gebruik te maken van Immediate Xgen AI zou het banksysteem klanten verliezen. Het enige waar mensen hun kaarten voor zouden gebruiken zou het opnemen van hun inkomen van het platform zijn. Dat is voor geen enkele bank winstgevend."
De artikelen verwijzen naar een landingspagina met een cryptocurrency-thema waarop gebruikers zich kunnen aanmelden, geld kunnen storten en kunnen beginnen met handelen.
Er staat dat zodra je je aanmeldt, je een telefoontje kunt verwachten van een 'accountmanager' die je account zal bevestigen.
Veranderende tactieken voor oude motieven
Fogle was het doelwit van iemand doen alsof ik hem ben eerder dit jaar, maar hij is misschien niet de eerste kandidaat voor een beleggingszwendel in vergelijking met financieel journalist Martin Lewis.
Dit doet het vermoeden rijzen dat fraudeurs het gemunt hebben op tal van publieke figuren en de inhoud pushen via gerichte Facebook-advertenties.
Mijn familielid had genoten van het programma "New Lives in the Wild" van Ben Fogle.
CToeval? Misschien, maar scammers hebben meer kans van slagen door zich te richten op specifieke interesses, wat het advertentieplatform van Meta mogelijk maakt.
Eerdere onderzoeken van AI-gestuurde fraude laten zien hoe de technologie frauduleuze tactieken op immense schaal mogelijk maakt.
Het is speculatief, maar er kunnen talloze iteraties van deze zeer gerichte zwendelpraktijken op de loer liggen bij sociale mediaplatforms.
Martin Lewis besprak eerder al hoe sociale mediabedrijven niet genoeg doen om oplichting te voorkomen. Dit betrof een rechtszaak met Facebook, dat overeengekomen om £3m te doneren aan Citizens Advice en een project opzetten om zwendeladvertenties te voorkomen.
Lewis vertelde aan Good Morning Britain: "We hebben nog steeds een absolute wildwest op sociale media en andere grote technologische reclameplatforms waardoor oplichters ongestraft hun gang kunnen gaan."
Met dit meer recente Ben Fogle-incident is het duidelijk dat er weinig is veranderd. Het is gewoon een kwestie van welke publieke figuren de volgende keer opduiken op het diepe nep-roulettewiel.
Educatie is de sleutel in de strijd tegen deep fakes en andere vormen van AI-ondersteunde oplichting.
De discussies over diepe vervalsingen in de media lijken tenminste enig effect te hebben op het publieke bewustzijn.
