Microsoft и OpenAI перехватывают глобальные угрозы киберпреступлений с использованием ИИ

14 февраля 2024 года

Microsoft AI

Компания Microsoft сообщила об использовании своих технологий искусственного интеллекта хакерами из России, Китая и Ирана, спонсируемыми государством.

Microsoft сотрудничала с OpenAI, наблюдая за деятельностью групп, связанных с российской военной разведкой, иранской Революционной гвардией, китайским и северокорейским правительствами, используя передовые инструменты искусственного интеллекта для совершенствования своих хакерских стратегий и создания убедительных обманных сообщений.

В рамках Исследования Microsoft и OpenAIОни нарушили деятельность пяти поддерживаемых государством вредоносных группировок, прекратив их доступ к сервисам OpenAI.

Среди них - два связанных с Китаем субъекта, Charcoal Typhoon и Salmon Typhoon; Crimson Sandstorm из Ирана; Emerald Sleet, связанный с Северной Кореей; и Forest Blizzard, связанный с Россией.

Эти группы использовали сервисы OpenAI для таких задач, как запрос информации из открытых источников, перевод, выявление ошибок в кодировании и выполнение базовых задач по кодированию. В частности:

  • Charcoal Typhoon использовал сервисы OpenAI для изучения компаний и инструментов кибербезопасности, отладки кода, создания скриптов и фишингового контента.
  • Salmon Typhoon использовал услуги OpenAI для перевода технической документации, сбора разведывательной информации о различных агентствах, помощи в кодировании и исследовании методов скрытности.
  • Crimson Sandstorm использовала услуги OpenAI для поддержки скриптов при разработке приложений и веб-сайтов, создания фишингового контента и изучения методов уклонения.
  • Emerald Sleet воспользовалась услугами OpenAI, чтобы найти экспертов и организации, занимающиеся защитой, понять уязвимости, помочь с базовыми сценариями и подготовить фишинговые материалы.
  • Forest Blizzard использовала услуги OpenAI в основном для исследований спутниковых и радарных технологий с открытым исходным кодом и для помощи в написании сценариев.

Тот факт, что международные угрозы используют технологии OpenAI, воплощает в себе проблему двойного назначения ИИ.

Угрожающие субъекты сознательно выбирают модели OpenAI, а не разрабатывают свои собственные. Это дешевле, быстрее и эффективнее. Суверенные инструменты с открытым исходным кодом, вероятно, уже на подходе.

Том Берт (Tom Burt), вице-президент Microsoft по безопасности клиентов, сказал о результатах исследования: "Независимо от того, есть ли нарушение закона или условий обслуживания, мы просто не хотим, чтобы те субъекты, которых мы выявили - мы отслеживаем и знаем, что это субъекты угроз различного рода, - имели доступ к этой технологии". 

Microsoft запрещает любые приложения или рабочие нагрузки, связанные с искусственным интеллектом, которые размещаются на Azure для этих групп, поддерживаемых государством. Администрация Байдена недавно обратилась к технологическим компаниям с просьбой сообщать о некоторых иностранных пользователях облачных технологий.

Китай ответил на это через представителя посольства США Лю Пэнъюй, который назвал обвинения необоснованными и выступил за ответственное использование технологий ИИ на благо человечества.

Китай сотрудничает с США о безопасности искусственного интеллекта за закрытыми дверямиНо, возможно, скорее по необходимости, чем по желанию.

Это последний из серии отчетов Microsoft по теме киберпреступлений за последние месяцы, включая прошлогодний, в котором обсуждалась пропаганда, генерируемая искусственным интеллектом, исходящая от Китай и Северная Корея.

Однако следует сказать, что угрозы ИИ существуют повсюду. В США, Великобритании и других странах Запада и Европы, как и на Востоке, резко возрастает число случаев глубокого мошенничества. 

В настоящее время Microsoft отслеживает более 300 уникальных угроз, включая государственные субъекты и группы разработчиков вымогательского ПО, используя искусственный интеллект для усиления защиты и пресечения вредоносной деятельности.

Киберугрозы, связанные с искусственным интеллектом, растут, и дело в том, что они носят международный характер и их трудно сдержать.

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения