Microsoft e OpenAI interceptam ameaças globais de cibercrime contra a IA

14 de fevereiro de 2024

IA da Microsoft

A Microsoft comunicou a utilização indevida das suas tecnologias de IA por hackers patrocinados pelo Estado da Rússia, China e Irão.

A Microsoft colaborou com a OpenAI para observar as actividades de grupos ligados aos serviços secretos militares russos, à Guarda Revolucionária do Irão e aos governos chinês e norte-coreano, utilizando ferramentas avançadas de IA para aperfeiçoar as suas estratégias de pirataria informática e elaborar mensagens enganosas convincentes.

No âmbito do Investigação da Microsoft e da OpenAIEm setembro de 2007, a OpenAI, uma empresa de consultoria, interrompeu as actividades de cinco grupos maliciosos apoiados pelo Estado, pondo termo ao seu acesso aos serviços da OpenAI.

Entre estes contam-se dois actores afiliados à China, o Charcoal Typhoon e o Salmon Typhoon; o Crimson Sandstorm do Irão; o Emerald Sleet, ligado à Coreia do Norte; e o Forest Blizzard, associado à Rússia.

Estes grupos estavam a explorar os serviços da OpenAI para tarefas como a consulta de informações de fonte aberta, a tradução, a identificação de erros de codificação e a realização de tarefas básicas de codificação. Especificamente:

  • O Charcoal Typhoon estava a utilizar os serviços da OpenAI para pesquisar empresas e ferramentas de cibersegurança, depurar código, gerar scripts e criar conteúdos de phishing.
  • O Salmon Typhoon utilizou os serviços da OpenAI para traduzir documentos técnicos, recolher informações sobre várias agências, ajudar na codificação e pesquisar técnicas furtivas.
  • A Crimson Sandstorm contratou os serviços da OpenAI para suporte de scripts no desenvolvimento de aplicações e da Web, elaboração de conteúdos de spear-phishing e exploração de métodos de evasão.
  • A Emerald Sleet utilizou os serviços da OpenAI para identificar especialistas e organizações de defesa, compreender vulnerabilidades, ajudar com scripts básicos e preparar materiais de phishing.
  • A Forest Blizzard utilizou os serviços da OpenAI principalmente para investigação de código aberto sobre tecnologias de satélite e radar e para assistência na criação de scripts.

O facto de os agentes de ameaças internacionais estarem a utilizar a tecnologia da OpenAI encarna o dilema da dupla utilização da IA.

Os agentes das ameaças estão a escolher deliberadamente os modelos da OpenAI em vez de desenvolverem os seus próprios modelos. É mais barato, mais rápido e mais eficaz. No entanto, as ferramentas soberanas de código aberto estão provavelmente na calha.

Tom Burt, Vice-Presidente da Microsoft para a Segurança dos Clientes, referiu-se às descobertas: "Independentemente de haver ou não qualquer violação da lei ou dos termos de serviço, não queremos que os actores que identificámos - que seguimos e sabemos que são actores de ameaças de vários tipos - tenham acesso a esta tecnologia". 

A Microsoft está a proibir qualquer aplicação ou carga de trabalho de IA alojada no Azure para estes grupos apoiados pelo Estado. A administração Biden solicitou recentemente que as empresas de tecnologia comunicar determinados utilizadores estrangeiros de tecnologias de computação em nuvem.

A China respondeu através do porta-voz da embaixada dos EUA, Liu Pengyu, que denunciou as acusações como infundadas e defendeu a utilização responsável das tecnologias de IA em benefício da humanidade.

A China tem estado a colaborar com a Os EUA debruçam-se sobre a segurança da IA à porta fechadamas talvez por pura necessidade e não por vontade ou desejo.

Este é o mais recente de uma série de relatórios da Microsoft sobre crimes cibernéticos nos últimos meses, incluindo um no ano passado que discutia a propaganda gerada por IA proveniente de China e Coreia do Norte.

No entanto, é preciso dizer que as ameaças da IA estão em todo o lado. As fraudes falsas estão a aumentar acentuadamente nos EUA, no Reino Unido e noutros países ocidentais e europeus, tal como no Oriente. 

A Microsoft está agora a seguir mais de 300 agentes de ameaças únicos, incluindo agentes do Estado-nação e grupos de ransomware, tirando partido da IA para melhorar as suas defesas e interromper actividades maliciosas.

As ciberameaças de IA estão a aumentar e o facto é que são internacionais e difíceis de conter.

Junte-se ao futuro


SUBSCREVER HOJE

Claro, conciso e abrangente. Fique a par dos desenvolvimentos da IA com DailyAI

Calças de ganga Sam

Sam é um escritor de ciência e tecnologia que trabalhou em várias startups de IA. Quando não está a escrever, pode ser encontrado a ler revistas médicas ou a vasculhar caixas de discos de vinil.

×

PDF GRATUITO EXCLUSIVO
Fique à frente com o DailyAI

Subscreva a nossa newsletter semanal e receba acesso exclusivo ao último livro eletrónico do DailyAI: 'Mastering AI Tools: Seu guia 2024 para aumentar a produtividade'.

*Ao subscrever a nossa newsletter, aceita a nossa Política de privacidade e o nosso Termos e condições