Женщина стала жертвой мошенничества на сумму 800 000 евро из-за создания искусственной подделки изображения Брэда Питта.

То, что началось как пост в Instagram о горнолыжном отдыхе, закончилось финансовым крахом для французского дизайнера интерьеров после того, как мошенники, используя искусственный интеллект, убедили ее в том, что она состоит в отношениях с Брэдом Питтом.

В результате 18-месячной аферы пострадала 53-летняя Энн, которая получила первое сообщение от человека, представившегося Джейн Эттой Питт, матерью Брэда, с утверждением, что ее сыну “нужна такая женщина, как вы”.” 

Вскоре после этого Энн начала общаться с тем, кого она считала самой голливудской звездой, используя при этом фотографии и видео, сгенерированные искусственным интеллектом.

“Речь идёт о Брэде Питте, и я был потрясён”,” Анна рассказала французским СМИ. “Сначала я подумала, что это фейк, но я не совсем понимала, что со мной происходит”.” 

Отношения развивались на протяжении нескольких месяцев ежедневного общения: фальшивый Питт посылал стихи, признания в любви и, в конце концов, сделал предложение руки и сердца.

“Так мало мужчин пишут так, — описала Энн. — Мне очень нравился мужчина, с которым я общалась. Он умел разговаривать с женщинами, и его речь всегда была очень грамотной”.“

Мошенники применили настолько убедительные методы, что в итоге Энн развелась со своим мужем, миллионером-предпринимателем.

После установления контакта мошенники начали вымогать деньги, выдвигая скромную просьбу – 9000 евро якобы за таможенные пошлины на дорогие подарки. Ситуация обострилась, когда самозванец заявил, что ему необходимо лечение от рака, в то время как его счета были заморожены из-за развода с Анджелиной Джоли. 

Сфабрикованное сообщение врача о состоянии Питта побудило Энн перевести 800 000 евро на турецкий счет.

“Мне это дорого обошлось, но я думала, что, возможно, спасаю жизнь человеку”, — сказала она. Когда ее дочь распознала аферу, Энн отказалась в это верить: “Ты увидишь, когда он приедет лично, тогда и извинишься”.”

Ее иллюзии рухнули, когда летом 2024 года она увидела в новостях репортаж о настоящем Брэде Питте и его партнерше Инес де Рамон. 

Даже тогда мошенники пытались сохранить контроль, рассылая фейковые новости, опровергающие эти сообщения и утверждающие, что Питт на самом деле встречается с неназванным “очень особенным человеком”. В последней попытке кто-то, выдававший себя за агента ФБР, выманил у нее еще 5000 евро, предложив помочь ей вырваться из этой аферы.

Последствия оказались катастрофическими – три попытки самоубийства привели к госпитализации из-за депрессии. 

Анна рассказала о своем опыте французскому телеканалу TF1, но интервью позже было удалено после того, как она подверглась жестокому кибербуллингу.

Продав мебель, она теперь живет у подруги, подала заявления в полицию и запустила краудфандинговую кампанию для получения юридической помощи.

Трагическая ситуация, хотя Энн, безусловно, не одинока. Ее история перекликается с масштабным всплеском мошенничества с использованием искусственного интеллекта по всему миру. 

Недавно испанские власти арестовали пятерых человек, которые украли 325 000 евро у двух женщин, используя аналогичные уловки, имитирующие Брэда Питта. 

В прошлом году, говоря о мошенничестве с использованием ИИ, технический директор McAfee Стив Гробман заявил: объясняет, почему эти мошеннические схемы удаются.“Киберпреступники могут использовать генеративный ИИ для создания поддельных голосов и дипфейков способами, которые раньше требовали гораздо большей сложности”.”

Мошенники нацеливаются не только на людей, но и на предприятия. В прошлом году в Гонконге..., Мошенники украли $25,6 млн. от транснациональной компании, использующей созданных с помощью ИИ имитаторов руководителей в видеозвонках. 

Начальник управления Барон Чан Шун-чин рассказал, как “работника заманили на видеоконференцию, в которой, как утверждалось, участвовало много людей. Реалистичный внешний вид участников побудил работника совершить 15 транзакций на пять местных банковских счетов”.”

Смогли бы вы распознать мошенничество с использованием искусственного интеллекта?

Большинство людей считают, что у них есть шансы распознать мошенничество с использованием искусственного интеллекта, но исследования говорят об обратном. 

Исследования показывают, что людям трудно... Как отличить реальные лица от созданных искусственным интеллектом?, и синтетические голоса обмануть примерно четверть слушателей. Эти данные появились в прошлом году — с тех пор технологии синтеза голоса, изображения и видео с помощью ИИ значительно развились. 

Synthesia, платформа для создания реалистичных видеоаватаров на основе искусственного интеллекта, говорящих на нескольких языках, теперь поддерживается компанией Nvidia. увеличила свою рыночную капитализацию вдвое, до 2,1 млрд долларов Платформы для синтеза видео и голоса, такие как Synthesia и Elevenlabs, входят в число наиболее популярных. инструменты, которые мошенники используют для запуска мошеннических схем с использованием дипфейков.

Компания Synthesia сама это признает, недавно продемонстрировав свою приверженность предотвращению злоупотреблений посредством тщательного публичного тестирования "красной командой", которое показало, как ее средства контроля соответствия успешно блокируют попытки создания дипфейков без согласия или использования аватаров для распространения вредоносного контента, такого как пропаганда самоубийства и азартных игр.

Эффективность таких мер в предотвращении злоупотреблений неясна. – Очевидно, что окончательного ответа пока нет.

По мере того, как компании и частные лица сталкиваются с необходимостью работы с реалистичными медиаматериалами, созданными искусственным интеллектом, человеческие издержки — что наглядно демонстрирует ужасающий опыт Анны — вероятно, будут расти.