Une femme victime d'une escroquerie de 800 000 € par un deepfake de Brad Pitt réalisé par une intelligence artificielle

Ce qui avait commencé comme une publication Instagram sur des vacances au ski s'est terminé par la ruine financière d'une décoratrice d'intérieur française, après que des escrocs ont utilisé l'IA pour la convaincre qu'elle était en couple avec Brad Pitt.

L'escroquerie, qui a duré 18 mois, visait Anne, 53 ans, qui a reçu un premier message d'une personne se faisant passer pour Jane Etta Pitt, la mère de Brad, affirmant que son fils “ avait besoin d'une femme comme vous ”.” 

Peu de temps après, Anne a commencé à parler à celui qu'elle croyait être la star hollywoodienne en personne, avec des photos et des vidéos générées par intelligence artificielle.

“ On parle de Brad Pitt là, et j'étais stupéfait. ” Anne a déclaré aux médias français. “ Au début, je pensais que c'était un canular, mais je ne comprenais pas vraiment ce qui m'arrivait. ” 

La relation s'est approfondie au fil des mois de contacts quotidiens, le faux Pitt envoyant des poèmes, des déclarations d'amour et finalement une demande en mariage.

“ Il y a si peu d'hommes qui écrivent comme ça ”, a décrit Anne. “ J'adorais l'homme avec qui je parlais. Il savait comment parler aux femmes et ses écrits étaient toujours très bien construits. ”

Les tactiques des escrocs se sont avérées si convaincantes qu'Anne a fini par divorcer de son mari, un entrepreneur millionnaire.

Après avoir établi une relation de confiance, les escrocs ont commencé à soutirer de l'argent avec une demande anodine : 9 000 € pour de prétendus frais de douane sur des cadeaux de luxe. La situation a dégénéré lorsque l'imposteur a prétendu avoir besoin d'un traitement contre le cancer, alors que ses comptes étaient gelés suite à son divorce avec Angelina Jolie. 

Un faux message médical concernant l'état de santé de Pitt a incité Anne à transférer 800 000 € sur un compte turc.

“ Ça m'a coûté cher, mais je pensais sauver une vie ”, a-t-elle déclaré. Lorsque sa fille a compris la supercherie, Anne a refusé d'y croire : “ Tu verras bien quand il sera là en personne, et là tu t'excuseras. ”

Ses illusions se sont brisées lorsqu'elle a vu les reportages sur le vrai Brad Pitt avec sa compagne Inés de Ramon à l'été 2024. 

Même alors, les escrocs ont tenté de garder le contrôle, en envoyant de fausses alertes d'actualité démentant ces informations et affirmant que Pitt fréquentait en réalité une “ personne très spéciale ” non identifiée. Dans un dernier coup de poker, une personne se faisant passer pour un agent du FBI lui a extorqué 5 000 € supplémentaires en lui proposant de l'aider à se sortir de cette arnaque.

Les conséquences furent dévastatrices : trois tentatives de suicide ont entraîné une hospitalisation pour dépression. 

Anne s'est confiée sur son expérience à la chaîne française TF1, mais l'interview a ensuite été supprimée suite à un intense cyberharcèlement dont elle a été victime.

Après avoir vendu ses meubles, elle vit désormais chez une amie, a porté plainte et lancé une campagne de financement participatif pour obtenir une aide juridique.

Une situation tragique, certes, mais Anne est loin d'être un cas isolé. Son histoire reflète une forte augmentation des fraudes utilisant l'intelligence artificielle à l'échelle mondiale. 

Les autorités espagnoles ont récemment arrêté cinq personnes qui ont dérobé 325 000 € à deux femmes en utilisant des imitations similaires de Brad Pitt. 

L'année dernière, Steve Grobman, directeur technique de McAfee, s'est exprimé sur la fraude liée à l'IA. explique pourquoi ces arnaques réussissent“ Les cybercriminels sont capables d’utiliser l’IA générative pour créer de fausses voix et des deepfakes d’une manière qui nécessitait auparavant beaucoup plus de sophistication. ”

Ce ne sont pas seulement les particuliers qui sont dans le collimateur des escrocs, mais aussi les entreprises. À Hong Kong, l'année dernière, Des fraudeurs ont dérobé $25,6 millions d'une multinationale utilisant des sosies de dirigeants générés par IA lors d'appels vidéo. 

Le commissaire Baron Chan Shun-ching a décrit comment “ l'employé a été attiré dans une vidéoconférence censée réunir de nombreux participants. L'apparence réaliste des personnes présentes a conduit l'employé à effectuer 15 transactions vers cinq comptes bancaires locaux. ”

Seriez-vous capable de repérer une arnaque à l'IA ?

La plupart des gens s'imagineraient capables de repérer une arnaque à l'IA, mais les recherches prouvent le contraire. 

Des études montrent que les humains ont du mal à distinguer les visages réels des créations de l'IA, et des voix synthétiques tromper environ un quart des auditeurs. Ces données datent de l'année dernière ; depuis, la synthèse vocale par IA (images, voix et vidéo) a considérablement évolué. 

Synthesia, une plateforme vidéo d'IA qui génère des avatars humains réalistes parlant plusieurs langues, est désormais soutenue par Nvidia. sa valorisation a doublé pour atteindre $2,1 milliards. Les plateformes de synthèse vidéo et vocale comme Synthesia et Elevenlabs font partie des outils utilisés par les fraudeurs pour lancer des escroqueries par deepfake.

Synthesia l'admet elle-même, ayant récemment démontré son engagement à prévenir les abus grâce à un test public rigoureux mené par une équipe rouge, qui a montré comment ses contrôles de conformité bloquent efficacement les tentatives de création de deepfakes non consensuels ou d'utilisation d'avatars pour des contenus nuisibles tels que la promotion du suicide et des jeux d'argent.

L'efficacité de telles mesures pour enrayer les abus reste à déterminer. – De toute évidence, le jury n'a pas encore rendu son verdict.

Alors que les entreprises et les particuliers sont confrontés à des médias générés par l'IA d'un réalisme saisissant, le coût humain – illustré par l'expérience dévastatrice d'Anne – va probablement augmenter.