Vrouw opgelicht voor €800.000 door AI-deepfake van Brad Pitt
Wat begon als een Instagram-post over een skivakantie, eindigde in financiële ondergang voor een Franse interieurontwerpster nadat oplichters met behulp van AI haar ervan overtuigden dat ze een relatie had met Brad Pitt.
De 18 maanden durende oplichting was gericht op Anne, 53, die een eerste bericht ontving van iemand die zich voordeed als Jane Etta Pitt, de moeder van Brad, met de bewering dat haar zoon "een vrouw zoals zij nodig had".“
Niet lang daarna begon Anne te praten met wat zij dacht dat de Hollywoodster zelf was, compleet met door AI gegenereerde foto's en video's.
“We hebben het hier over Brad Pitt en ik was stomverbaasd.” Anne vertelde dit aan Franse media.. “In eerste instantie dacht ik dat het nep was, maar ik begreep niet goed wat er met me gebeurde.”
De relatie verdiepte zich in de loop van maandenlang dagelijks contact, waarbij de nep-Pitt gedichten, liefdesverklaringen en uiteindelijk een huwelijksaanzoek stuurde.
“'Er zijn maar weinig mannen die je op die manier schrijven,' beschreef Anne. 'Ik was dol op de man met wie ik sprak. Hij wist hoe hij met vrouwen moest praten en het was altijd heel goed doordacht.'”
De tactieken van de oplichters bleken zo overtuigend dat Anne uiteindelijk van haar miljonair-ondernemer-echtgenoot scheidde.
Nadat ze een vertrouwensband hadden opgebouwd, begonnen de oplichters geld af te troeven met een bescheiden verzoek: €9.000 voor zogenaamde douanekosten op luxe cadeaus. De situatie escaleerde toen de oplichter beweerde kankerbehandeling nodig te hebben, terwijl zijn bankrekeningen geblokkeerd waren vanwege zijn scheiding van Angelina Jolie.
Een vervalst doktersbericht over Pitts toestand zette Anne ertoe aan om €800.000 over te maken naar een Turkse rekening.
“'Het heeft me geld gekost, maar ik dacht dat ik misschien iemands leven redde,' zei ze. Toen haar dochter de oplichting doorhad, weigerde Anne het te geloven: 'Je zult het zien als hij hier persoonlijk is, dan zul je je excuses aanbieden.'”
Haar illusies werden aan diggelen geslagen toen ze in de zomer van 2024 nieuwsberichten zag over de echte Brad Pitt met zijn partner Inés de Ramon.
Zelfs toen probeerden de oplichters de controle te behouden door nepnieuwsberichten te versturen waarin deze berichten werden ontkracht en waarin werd beweerd dat Pitt in werkelijkheid een relatie had met een niet nader genoemde "heel speciale persoon". In een laatste poging wist iemand die zich voordeed als FBI-agent nog eens €5.000 af te troeven door aan te bieden haar te helpen ontsnappen aan de oplichting.
De nasleep bleek verwoestend: drie zelfmoordpogingen leidden tot een ziekenhuisopname vanwege depressie.
Anne deelde haar ervaringen met de Franse omroep TF1, maar het interview werd later verwijderd nadat ze te maken kreeg met hevige cyberpesten.
Nu ze haar meubels heeft verkocht en bij een vriendin woont, heeft ze aangifte gedaan en een crowdfundingcampagne opgezet voor juridische hulp.
Een tragische situatie – hoewel Anne zeker niet de enige is. Haar verhaal weerspiegelt een enorme toename van door AI aangedreven fraude wereldwijd.
De Spaanse autoriteiten hebben onlangs vijf mensen gearresteerd die €325.000 van twee vrouwen hadden gestolen door zich voor te doen als Brad Pitt.
Steve Grobman, Chief Technology Officer van McAfee, sprak vorig jaar over AI-fraude. legt uit waarom deze oplichtingspraktijken succesvol zijn."Cybercriminelen kunnen generatieve AI gebruiken voor nepstemmen en deepfakes op manieren die voorheen veel geavanceerder waren."“
Niet alleen mensen, maar ook bedrijven zijn het doelwit van oplichters. In Hongkong vorig jaar..., Oplichters hebben $25,6 miljoen gestolen. van een multinational die AI-gegenereerde imitators van directieleden gebruikt in videogesprekken.
Hoofdinspecteur Baron Chan Shun-ching beschreef hoe "de medewerker werd gelokt naar een videoconferentie waaraan zogenaamd veel deelnemers waren. Door het realistische uiterlijk van de personen voerde de medewerker vijftien transacties uit naar vijf lokale bankrekeningen."“
Zou jij een AI-oplichting kunnen herkennen?
De meeste mensen denken dat ze een AI-oplichting wel kunnen herkennen, maar onderzoek wijst anders uit.
Studies tonen aan dat mensen moeite hebben met echte gezichten onderscheiden van AI-creaties, en synthetische stemmen ongeveer een kwart van de luisteraars voor de gek houden. Dat bewijs stamt uit vorig jaar – AI-technologie voor spraak-, beeld-, spraak- en videosynthese is sindsdien aanzienlijk verbeterd.
Synthesia, een AI-videoplatform dat realistische menselijke avatars genereert die meerdere talen spreken, wordt nu gesteund door Nvidia. De waarde van het bedrijf is verdubbeld tot $2,1 miljard. Video- en spraaksyntheseplatformen zoals Synthesia en Elevenlabs behoren tot de tools die fraudeurs gebruiken om deepfake-fraude te plegen.
Synthesia erkent dit zelf en heeft onlangs haar inzet voor het voorkomen van misbruik aangetoond door middel van een strenge openbare test met een 'red team'. Deze test toonde aan hoe haar compliance-maatregelen succesvol pogingen blokkeren om deepfakes te creëren zonder toestemming of avatars te gebruiken voor schadelijke inhoud, zoals het promoten van zelfmoord en gokken.
De vraag is of dergelijke maatregelen effectief zijn in het tegengaan van misbruik. Het is duidelijk dat het oordeel nog niet geveld is.
Naarmate bedrijven en individuen worstelen met de indringende realiteit van door AI gegenereerde media, zullen de menselijke kosten – zoals geïllustreerd door Annes verwoestende ervaring – waarschijnlijk toenemen.
