Глубокие подделки искусственного интеллекта обманом заставили финансового работника транснациональной корпорации перевести мошенникам ошеломляющую сумму в $25,6 миллиона.
Эти мошенники использовали сгенерированные искусственным интеллектом подделки, чтобы имитировать внешность и голос старших коллег сотрудника, включая финансового директора (CFO), во время видеоконференции.
Об этом впервые сообщила телекомпания CNN, а старший суперинтендант Барон Чан Шун-Чинг из отдела кибербезопасности полиции Гонконга, и это, вероятно, самая громкая афера с искусственным интеллектом, которую мы видели до сих пор.
Афера начиналась с обманного сообщения, якобы от финансового директора компании в Великобритании, приглашавшего сотрудника на видеосвязь для обсуждения конфиденциальной финансовой операции.
Несмотря на некоторые подозрения и секретный характер запроса, вызвавшие тревогу, убедительные глубокие подделки в конце концов развеяли сомнения сотрудника во время видеозвонка.
После совершения мошеннических операций сотрудник связался с головным офисом компании и только потом понял, что совершил ошибку.
Глубокие подделки искусственного интеллекта использовались для целого ряда мошенничеств, включая несколько, направленных на политических и общественных деятелей, таких как Элон Маск и Мистер Зверь и Премьер-министр Великобритании Риши Сунак.
Исследования обнаружили, что люди уже не могут достоверно отличить настоящие лица от сложных подделок, а некоторые 1/4 людей обманывают голоса, созданные искусственным интеллектом.
Эдди Камбербэтч (Eddie Cumberbatch) из социальных сетей также столкнулся с мошенничеством искусственного интеллекта, когда его бабушка и дедушка получили мошеннический звонок, выдающий себя за его голос. Глубокие фальшивые голоса утверждали, что он попал в автокатастрофу и ему срочно нужны деньги, что часто встречается в мошенничествах такого рода.
Чан объяснил этот недавний случай мошенничества, отметив: "Работника заманили в видеоконференцию, в которой, как утверждалось, было много участников. Реалистичная внешность участников видеоконференции заставила работника совершить 15 транзакций на пять счетов в местных банках на общую сумму $200 миллионов гонконгских долларов".
Чан также подчеркнул важность информирования общественности о тактике обмана с помощью ИИ, заявив: "Мы хотим предупредить общественность об этих новых тактиках обмана. Мошенники теперь используют технологию искусственного интеллекта на онлайн-встречах, поэтому людям крайне важно сохранять бдительность даже в больших группах".
В прошлом году Стив Гробман, директор по технологиям компании McAfee, Предупреждение о глубоком мошенничестве"Одна из важнейших вещей, которую следует признать в связи с достижениями в области ИИ в этом году, заключается в том, что эти технологии стали доступны гораздо большему числу людей, в том числе они действительно способствуют расширению масштабов киберактивного сообщества".
"Киберпреступники могут использовать генеративный ИИ для создания фальшивых голосов и глубоких подделок так, что раньше это требовало гораздо большей изощренности".
Полиция Гонконга призывает сотрудников проверять подозрительные приглашения на встречи по стандартным каналам связи компании и участвовать во встречах, чтобы убедиться в подлинности участников.
Люди также должны установить кодовые слова для своих друзей и родственников, чтобы защититься от мошенничества.
Если что-то вызывает подозрение, спросите у них кодовое слово или задайте личный вопрос о себе, о них, о своей семье или что-то подобное.
