Создатель нового приложения с искусственным интеллектом под названием FraudGPT утверждает, что этот инструмент может помочь вам обмануть людей и выманить у них деньги. Насколько эффективно он это делает, сомнительно, но, возможно, это лишь вершина айсберга темного ИИ.
Если вы попросите ChatGPT написать письмо якобы от банка, чтобы использовать его в фишинговой афере, он вежливо откажется. FraudGPT, злой близнец ChatGPT, без проблем поможет вам в этом.
Собственные модели ИИ, такие как ChatGPT и Llama, имеют защитные ограждения, препятствующие их использованию в злонамеренных целях.
Создатель FraudGPT утверждает, что его инструмент не знает преград и с радостью напишет код для взлома или мошенническую электронную почту. И он с радостью продаст вам этот инструмент по подписке.
WormGPT против FraudGPT
В начале июля в сети появились опасения по поводу безопасности, вызванные выпуском WormGPT. Он был основан на LLM под названием GPT-J, но с убранными защитными элементами. Модель не была столь же совершенной, как GPT-3 или GPT-4, так что вредоносные письма и код, который она писала, в итоге оказались довольно простыми.
Вслед за ним появился FraudGPT, который был выпущен около 2 недель назад. Создатель FraudGPT под ником CanadianKingpin12 утверждает, что новый инструмент основан на GPT-3 и может "создавать необнаруживаемые вредоносные программы".
Если вы так настроены, вам придется связаться с ним (или с ней?) в темной паутине и заплатить $200, чтобы получить доступ к FraudGPT. CanadianKingpin12 утверждает, и скриншоты, похоже, подтверждают, что у него уже более 3 000 продаж.
Некоторые видео на Youtube дают представление о том, на что способен FraudGPT.
Так что, если отбросить злой умысел, видео демонстрации немного не впечатляет. Возможно, он оставил в стороне лучшие моменты. А может быть, здесь происходит что-то другое.
FraudGPT обманывает мошенников?
Мы не играли с FraudGPT, но некоторые профессионалы в области кибербезопасности, которые проверили его, не теряют из-за него сна.
В ответ на просьбу FraudGPT написать спам-сообщение для обмана клиентов Bank of America он выдал следующее: "Уважаемый участник Bank of America: Пожалуйста, ознакомьтесь с этой важной ссылкой, чтобы обеспечить безопасность вашего банковского счета в Интернете."
Да, не совсем то, что нужно для злодея Бонда.
Мелисса Бишопинг, исследователь из компании Tanium, занимающейся вопросами кибербезопасности, говорит: "Я не видела ничего, что могло бы навести на мысль о том, что это страшно".
Она считает, что люди, стоящие за FraudGPT, "охотятся на тех, кто не настолько искушен, чтобы писать собственные вредоносные программы, но хочет быстро заработать".
Возможно, именно это и происходит. Просто некоторые начинающие хакеры/мошенники притворяются крутыми, используя непослушный ИИ и не получая за это ничего хорошего.
Но это указывает на два важных события. Во-первых, люди работают над созданием подобных киберпреступных инструментов с искусственным интеллектом. А во-вторых, для них существует готовый рынок.
Введите DarkBART и DarkBERT
CanadianKingpin12 говорит: "Но подождите, это еще не все!". По его словам, теперь он готов предложить новые инструменты ИИ для киберпреступников под названием DarkBART и DarkBERT.
DarkBART - это, по-видимому, темная версия искусственного интеллекта Bard от Google. Мы предполагаем, что он будет похож на FraudGPT, но будет работать на базе Google LLM, а не GPT-3. Получится ли у него быть плохим? Мы пока не знаем.
DarkBERT немного интереснее. Возможно, это вовсе не какой-то новый инструмент, созданный CanadianKingpin12. Возможно, он просто получил в свои руки LLM с таким названием, который был создан легальным исследователи в Южной Корее.
Эта модель была обучена на множестве данных из Dark Web, среди которых было много действительно неприятных вещей, включая данные о взломах, вымогательстве и мошенничестве. Она была разработана с целью обнаружения и устранения киберугроз.
Вы можете запросить доступ к этому инструменту, но только если у вас есть адрес электронной почты от учебного заведения. Не совсем надежный метод проверки.
Либо CanadianKingpin12 получил в свои руки DarkBERT и подправил его, либо это что-то совсем другое. В любом случае, он с удовольствием продемонстрировал его в этом видео.
Неужели он просто смеется и получает удовольствие, обманывая мошенников? Мы надеемся, что да. Но спрос на киберпреступные инструменты с искусственным интеллектом и их развитие неоспоримы. По мере того как страны стремятся сделать Оружие ИИМы можем быть уверены, что преступники также пополняют свой арсенал искусственным интеллектом.
Вероятно, в Темной паутине уже есть несколько действительно хороших киберпреступных инструментов с искусственным интеллектом, если знать, у кого спрашивать. CanadianKingpin12, похоже, не из таких людей.
