Компания Microsoft сообщила об использовании своих технологий искусственного интеллекта хакерами из России, Китая и Ирана, спонсируемыми государством.
Microsoft сотрудничала с OpenAI, наблюдая за деятельностью групп, связанных с российской военной разведкой, иранской Революционной гвардией, китайским и северокорейским правительствами, используя передовые инструменты искусственного интеллекта для совершенствования своих хакерских стратегий и создания убедительных обманных сообщений.
В рамках Исследования Microsoft и OpenAIОни нарушили деятельность пяти поддерживаемых государством вредоносных группировок, прекратив их доступ к сервисам OpenAI.
Среди них - два связанных с Китаем субъекта, Charcoal Typhoon и Salmon Typhoon; Crimson Sandstorm из Ирана; Emerald Sleet, связанный с Северной Кореей; и Forest Blizzard, связанный с Россией.
Эти группы использовали сервисы OpenAI для таких задач, как запрос информации из открытых источников, перевод, выявление ошибок в кодировании и выполнение базовых задач по кодированию. В частности:
- Charcoal Typhoon использовал сервисы OpenAI для изучения компаний и инструментов кибербезопасности, отладки кода, создания скриптов и фишингового контента.
- Salmon Typhoon использовал услуги OpenAI для перевода технической документации, сбора разведывательной информации о различных агентствах, помощи в кодировании и исследовании методов скрытности.
- Crimson Sandstorm использовала услуги OpenAI для поддержки скриптов при разработке приложений и веб-сайтов, создания фишингового контента и изучения методов уклонения.
- Emerald Sleet воспользовалась услугами OpenAI, чтобы найти экспертов и организации, занимающиеся защитой, понять уязвимости, помочь с базовыми сценариями и подготовить фишинговые материалы.
- Forest Blizzard использовала услуги OpenAI в основном для исследований спутниковых и радарных технологий с открытым исходным кодом и для помощи в написании сценариев.
Тот факт, что международные угрозы используют технологии OpenAI, воплощает в себе проблему двойного назначения ИИ.
Угрожающие субъекты сознательно выбирают модели OpenAI, а не разрабатывают свои собственные. Это дешевле, быстрее и эффективнее. Суверенные инструменты с открытым исходным кодом, вероятно, уже на подходе.
Том Берт (Tom Burt), вице-президент Microsoft по безопасности клиентов, сказал о результатах исследования: "Независимо от того, есть ли нарушение закона или условий обслуживания, мы просто не хотим, чтобы те субъекты, которых мы выявили - мы отслеживаем и знаем, что это субъекты угроз различного рода, - имели доступ к этой технологии".
Microsoft запрещает любые приложения или рабочие нагрузки, связанные с искусственным интеллектом, которые размещаются на Azure для этих групп, поддерживаемых государством. Администрация Байдена недавно обратилась к технологическим компаниям с просьбой сообщать о некоторых иностранных пользователях облачных технологий.
Китай ответил на это через представителя посольства США Лю Пэнъюй, который назвал обвинения необоснованными и выступил за ответственное использование технологий ИИ на благо человечества.
Китай сотрудничает с США о безопасности искусственного интеллекта за закрытыми дверямиНо, возможно, скорее по необходимости, чем по желанию.
Это последний из серии отчетов Microsoft по теме киберпреступлений за последние месяцы, включая прошлогодний, в котором обсуждалась пропаганда, генерируемая искусственным интеллектом, исходящая от Китай и Северная Корея.
Однако следует сказать, что угрозы ИИ существуют повсюду. В США, Великобритании и других странах Запада и Европы, как и на Востоке, резко возрастает число случаев глубокого мошенничества.
В настоящее время Microsoft отслеживает более 300 уникальных угроз, включая государственные субъекты и группы разработчиков вымогательского ПО, используя искусственный интеллект для усиления защиты и пресечения вредоносной деятельности.
Киберугрозы, связанные с искусственным интеллектом, растут, и дело в том, что они носят международный характер и их трудно сдержать.
