Una donna è stata truffata per 800.000 euro da un deepfake di Brad Pitt creato con l'intelligenza artificiale.

Quello che era iniziato come un post su Instagram riguardante una vacanza sulla neve si è concluso con la rovina finanziaria di una designer d'interni francese, dopo che dei truffatori hanno utilizzato l'intelligenza artificiale per convincerla di avere una relazione con Brad Pitt.

La truffa, durata 18 mesi, ha preso di mira Anne, 53 anni, che ha ricevuto un primo messaggio da qualcuno che si spacciava per Jane Etta Pitt, la madre di Brad, affermando che suo figlio "aveva bisogno di una donna come te".“ 

Poco tempo dopo, Anne iniziò a parlare con quello che credeva essere la star di Hollywood in persona, con tanto di foto e video generati dall'intelligenza artificiale.

“"Stiamo parlando di Brad Pitt e sono rimasto sbalordito."” Anne lo ha detto ai media francesi. "All'inizio ho pensato che fosse uno scherzo, ma non capivo bene cosa mi stesse succedendo."“ 

La relazione si è intensificata nel corso di mesi di contatti quotidiani, durante i quali il finto Pitt ha inviato poesie, dichiarazioni d'amore e, infine, una proposta di matrimonio.

“"Sono pochissimi gli uomini che ti scrivono in quel modo", ha raccontato Anne. "Mi piaceva molto l'uomo con cui parlavo. Sapeva come rivolgersi alle donne e i suoi scritti erano sempre molto curati."”

Le tattiche dei truffatori si rivelarono così convincenti che Anne alla fine divorziò dal marito, un imprenditore milionario.

Dopo aver instaurato un rapporto di fiducia, i truffatori hanno iniziato a estorcere denaro con una richiesta apparentemente modesta: 9.000 euro per presunte spese doganali su regali di lusso. La situazione è degenerata quando l'impostore ha affermato di aver bisogno di cure per il cancro, mentre i suoi conti bancari erano stati congelati a causa del divorzio da Angelina Jolie. 

Un falso referto medico sulle condizioni di salute di Pitt spinse Anne a trasferire 800.000 euro su un conto turco.

“Mi è costato caro farlo, ma ho pensato che avrei potuto salvare la vita a un uomo”, ha detto. Quando sua figlia si è accorta dell'inganno, Anne si è rifiutata di crederci: “Lo vedrai quando sarà qui di persona, allora ti scuserai”.”

Le sue illusioni si infransero quando vide i servizi giornalistici sul vero Brad Pitt con la sua compagna Inés de Ramon nell'estate del 2024. 

Anche in quel caso, i truffatori cercarono di mantenere il controllo, inviando falsi avvisi di notizie che smentivano queste indiscrezioni e affermavano che Pitt in realtà frequentava una "persona molto speciale" di cui non rivelò il nome. Come ultimo tentativo, qualcuno che si spacciava per un agente dell'FBI riuscì a estorcerle altri 5.000 euro offrendosi di aiutarla a uscire dalla truffa.

Le conseguenze si rivelarono devastanti: tre tentativi di suicidio portarono al ricovero in ospedale per depressione. 

Anne ha raccontato la sua esperienza all'emittente francese TF1, ma l'intervista è stata successivamente rimossa dopo che la ragazza è stata vittima di intensi episodi di cyberbullismo.

Ora vive da un'amica dopo aver venduto i suoi mobili, ha sporto denuncia penale e ha lanciato una campagna di crowdfunding per ottenere assistenza legale.

Una situazione tragica, anche se Anne non è certo sola. La sua storia si inserisce in un massiccio aumento delle frodi perpetrate con l'intelligenza artificiale in tutto il mondo. 

Le autorità spagnole hanno recentemente arrestato cinque persone che avevano rubato 325.000 euro a due donne tramite imitazioni simili di Brad Pitt. 

Parlando di frodi legate all'IA lo scorso anno, il direttore tecnologico di McAfee, Steve Grobman spiega perché queste truffe hanno successo"I criminali informatici sono in grado di utilizzare l'intelligenza artificiale generativa per creare voci false e deepfake in modi che in passato richiedevano una sofisticazione ben maggiore."“

Non sono solo le persone a finire nel mirino dei truffatori, ma anche le aziende. A Hong Kong l'anno scorso, I truffatori hanno rubato $25,6 milioni da una società multinazionale che utilizza imitatori di dirigenti generati dall'intelligenza artificiale nelle videochiamate. 

Il sovrintendente Baron Chan Shun-ching ha descritto come "il dipendente sia stato attirato in una videoconferenza che si diceva avesse molti partecipanti. L'aspetto realistico delle persone ha indotto il dipendente a effettuare 15 transazioni verso cinque conti bancari locali".“

Saresti in grado di individuare una truffa basata sull'intelligenza artificiale?

Molte persone sarebbero convinte di riuscire a smascherare una truffa basata sull'intelligenza artificiale, ma le ricerche dimostrano il contrario. 

Gli studi dimostrano che gli esseri umani faticano a distinguere i volti reali dalle creazioni dell'IA, e voci sintetiche ingannare circa un quarto degli ascoltatori. Questa prova risale all'anno scorso: la sintesi di immagini vocali, voce e video tramite intelligenza artificiale si è evoluta considerevolmente da allora. 

Synthesia, una piattaforma video AI che genera avatar umani realistici che parlano più lingue, ora supportata da Nvidia, ha raddoppiato la sua valutazione, arrivando a $2,1 miliardi. Le piattaforme di sintesi video e vocale come Synthesia ed Elevenlabs sono tra le Strumenti che i truffatori utilizzano per lanciare truffe deepfake.

Synthesia stessa lo ammette, dimostrando recentemente il proprio impegno nella prevenzione degli abusi attraverso un rigoroso test pubblico condotto da un team di esperti (red team), che ha evidenziato come i suoi controlli di conformità blocchino con successo i tentativi di creare deepfake non consensuali o di utilizzare avatar per contenuti dannosi come la promozione del suicidio e del gioco d'azzardo.

Se tali misure siano o meno efficaci nel fermare l'abuso – Chiaramente la questione è ancora aperta.

Mentre aziende e individui si confrontano con contenuti multimediali generati dall'intelligenza artificiale sempre più realistici, il costo umano – come dimostra la devastante esperienza di Anne – probabilmente aumenterà.