Frau um 800.000 € durch KI-gestützte Deepfake-Imitation von Brad Pitt betrogen

Was als Instagram-Post über einen Skiurlaub begann, endete für eine französische Innenarchitektin im finanziellen Ruin, nachdem Betrüger mithilfe von KI sie davon überzeugt hatten, dass sie eine Beziehung mit Brad Pitt führte.

Der 18 Monate andauernde Betrug richtete sich gegen die 53-jährige Anne, die eine erste Nachricht von jemandem erhielt, der sich als Jane Etta Pitt, Brads Mutter, ausgab und behauptete, ihr Sohn “brauche eine Frau wie Sie”.” 

Kurz darauf begann Anne mit dem zu sprechen, was sie für den Hollywoodstar selbst hielt, inklusive KI-generierter Fotos und Videos.

“Wir reden hier von Brad Pitt und ich war fassungslos.” Anne sagte gegenüber französischen Medien. “Zuerst dachte ich, es sei ein Scherz, aber ich habe nicht wirklich verstanden, was mit mir geschah.” 

Die Beziehung vertiefte sich über Monate des täglichen Kontakts, wobei der falsche Pitt Gedichte, Liebeserklärungen und schließlich einen Heiratsantrag schickte.

“Es gibt so wenige Männer, die einem so schreiben”, beschrieb Anne. “Ich liebte den Mann, mit dem ich schrieb. Er wusste, wie man mit Frauen spricht, und seine Worte waren immer sehr gewandt.”

Die Maschen der Betrüger waren so überzeugend, dass Anne sich schließlich von ihrem millionenschweren Unternehmer-Ehemann scheiden ließ.

Nachdem sie Vertrauen aufgebaut hatten, begannen die Betrüger, mit einer harmlosen Forderung – 9.000 € für angebliche Zollgebühren auf Luxusgeschenke – Geld zu erpressen. Die Situation eskalierte, als der Betrüger behauptete, sich in Krebsbehandlung zu befinden, während seine Konten aufgrund seiner Scheidung von Angelina Jolie gesperrt seien. 

Eine gefälschte ärztliche Mitteilung über Pitts Zustand veranlasste Anne, 800.000 € auf ein türkisches Konto zu überweisen.

“Es hat mich etwas gekostet, aber ich dachte, ich könnte damit einem Mann das Leben retten”, sagte sie. Als ihre Tochter den Betrug durchschaute, wollte Anne es nicht glauben: “Du wirst schon sehen, wenn er persönlich hier ist, dann wirst du dich entschuldigen.”

Ihre Illusionen wurden jäh zerstört, als sie im Sommer 2024 in den Nachrichten Bilder des echten Brad Pitt mit seiner Partnerin Inés de Ramon sah. 

Selbst dann versuchten die Betrüger, die Kontrolle zu behalten, indem sie gefälschte Nachrichten verbreiteten, in denen sie diese Berichte als Unsinn abtaten und behaupteten, Pitt sei in Wirklichkeit mit einer ungenannten “ganz besonderen Person” zusammen. In einem letzten verzweifelten Versuch erpresste jemand, der sich als FBI-Agent ausgab, weitere 5.000 €, indem er ihr Hilfe bei der Flucht aus dem Betrug anbot.

Die Folgen waren verheerend – drei Selbstmordversuche führten zu Krankenhausaufenthalten wegen Depressionen. 

Anne sprach gegenüber dem französischen Sender TF1 über ihre Erfahrungen, doch das Interview wurde später entfernt, nachdem sie massivem Cybermobbing ausgesetzt war.

Nachdem sie ihre Möbel verkauft hatte, wohnt sie nun bei einer Freundin. Sie hat Strafanzeige erstattet und eine Crowdfunding-Kampagne für Rechtshilfe gestartet.

Eine tragische Situation – doch Anne ist sicherlich nicht allein. Ihre Geschichte spiegelt den massiven Anstieg KI-gestützter Betrugsfälle weltweit wider. 

Die spanischen Behörden haben vor Kurzem fünf Personen festgenommen, die durch ähnliche Imitationen von Brad Pitt 325.000 Euro von zwei Frauen gestohlen hatten. 

Im vergangenen Jahr äußerte sich Steve Grobman, Chief Technology Officer von McAfee, zum Thema KI-Betrug. erklärt, warum diese Betrügereien erfolgreich sind“Cyberkriminelle können generative KI für gefälschte Stimmen und Deepfakes auf eine Weise einsetzen, die früher deutlich mehr Raffinesse erforderte.”

Nicht nur Privatpersonen geraten ins Visier der Betrüger, sondern auch Unternehmen. Im vergangenen Jahr in Hongkong, Betrüger erbeuteten $25,6 Millionen von einem multinationalen Unternehmen, das KI-generierte Führungskräfte-Imitatoren in Videoanrufen einsetzt. 

Superintendent Baron Chan Shun-ching beschrieb, wie “der Mitarbeiter in eine Videokonferenz gelockt wurde, an der angeblich viele Teilnehmer teilnahmen. Das realistische Aussehen der Personen veranlasste den Mitarbeiter, 15 Transaktionen auf fünf lokale Bankkonten durchzuführen.”

Wären Sie in der Lage, einen KI-Betrug zu erkennen?

Die meisten Menschen würden ihre Chancen, einen KI-Betrug zu erkennen, als gut einschätzen, doch die Forschung sagt etwas anderes. 

Studien zeigen, dass Menschen damit zu kämpfen haben echte Gesichter von KI-Kreationen unterscheiden, und synthetische Stimmen etwa ein Viertel der Zuhörer täuschen. Diese Erkenntnisse stammen aus dem letzten Jahr – die KI-Sprachbild-, Sprach- und Videosynthese haben sich seither erheblich weiterentwickelt. 

Synthesia, eine KI-Videoplattform, die realistische menschliche Avatare generiert, die mehrere Sprachen sprechen, wird nun von Nvidia unterstützt. verdoppelte seinen Wert auf 17 Billionen US-Dollar. Video- und Sprachsyntheseplattformen wie Synthesia und Elevenlabs gehören zu den Werkzeuge, die Betrüger für Deepfake-Betrugsmaschen nutzen.

Synthesia gibt dies selbst zu und demonstrierte kürzlich sein Engagement für die Verhinderung von Missbrauch durch einen rigorosen öffentlichen Red-Team-Test, der zeigte, wie seine Compliance-Kontrollen erfolgreich Versuche blockieren, nicht einvernehmliche Deepfakes zu erstellen oder Avatare für schädliche Inhalte wie die Förderung von Selbstmord und Glücksspiel zu verwenden.

Ob solche Maßnahmen wirksam sind, um Missbrauch zu verhindern, ist ungewiss. – Das Urteil ist eindeutig noch nicht gefällt.

Während Unternehmen und Einzelpersonen mit erschreckend real wirkenden, KI-generierten Medien zu kämpfen haben, werden die menschlichen Kosten – wie Annes verheerende Erfahrung verdeutlicht – wahrscheinlich steigen.