A Microsoft comunicou a utilização indevida das suas tecnologias de IA por hackers patrocinados pelo Estado da Rússia, China e Irão.
A Microsoft colaborou com a OpenAI para observar as actividades de grupos ligados aos serviços secretos militares russos, à Guarda Revolucionária do Irão e aos governos chinês e norte-coreano, utilizando ferramentas avançadas de IA para aperfeiçoar as suas estratégias de pirataria informática e elaborar mensagens enganosas convincentes.
No âmbito do Investigação da Microsoft e da OpenAIEm setembro de 2007, a OpenAI, uma empresa de consultoria, interrompeu as actividades de cinco grupos maliciosos apoiados pelo Estado, pondo termo ao seu acesso aos serviços da OpenAI.
Entre estes contam-se dois actores afiliados à China, o Charcoal Typhoon e o Salmon Typhoon; o Crimson Sandstorm do Irão; o Emerald Sleet, ligado à Coreia do Norte; e o Forest Blizzard, associado à Rússia.
Estes grupos estavam a explorar os serviços da OpenAI para tarefas como a consulta de informações de fonte aberta, a tradução, a identificação de erros de codificação e a realização de tarefas básicas de codificação. Especificamente:
- O Charcoal Typhoon estava a utilizar os serviços da OpenAI para pesquisar empresas e ferramentas de cibersegurança, depurar código, gerar scripts e criar conteúdos de phishing.
- O Salmon Typhoon utilizou os serviços da OpenAI para traduzir documentos técnicos, recolher informações sobre várias agências, ajudar na codificação e pesquisar técnicas furtivas.
- A Crimson Sandstorm contratou os serviços da OpenAI para suporte de scripts no desenvolvimento de aplicações e da Web, elaboração de conteúdos de spear-phishing e exploração de métodos de evasão.
- A Emerald Sleet utilizou os serviços da OpenAI para identificar especialistas e organizações de defesa, compreender vulnerabilidades, ajudar com scripts básicos e preparar materiais de phishing.
- A Forest Blizzard utilizou os serviços da OpenAI principalmente para investigação de código aberto sobre tecnologias de satélite e radar e para assistência na criação de scripts.
O facto de os agentes de ameaças internacionais estarem a utilizar a tecnologia da OpenAI encarna o dilema da dupla utilização da IA.
Os agentes das ameaças estão a escolher deliberadamente os modelos da OpenAI em vez de desenvolverem os seus próprios modelos. É mais barato, mais rápido e mais eficaz. No entanto, as ferramentas soberanas de código aberto estão provavelmente na calha.
Tom Burt, Vice-Presidente da Microsoft para a Segurança dos Clientes, referiu-se às descobertas: "Independentemente de haver ou não qualquer violação da lei ou dos termos de serviço, não queremos que os actores que identificámos - que seguimos e sabemos que são actores de ameaças de vários tipos - tenham acesso a esta tecnologia".
A Microsoft está a proibir qualquer aplicação ou carga de trabalho de IA alojada no Azure para estes grupos apoiados pelo Estado. A administração Biden solicitou recentemente que as empresas de tecnologia comunicar determinados utilizadores estrangeiros de tecnologias de computação em nuvem.
A China respondeu através do porta-voz da embaixada dos EUA, Liu Pengyu, que denunciou as acusações como infundadas e defendeu a utilização responsável das tecnologias de IA em benefício da humanidade.
A China tem estado a colaborar com a Os EUA debruçam-se sobre a segurança da IA à porta fechadamas talvez por pura necessidade e não por vontade ou desejo.
Este é o mais recente de uma série de relatórios da Microsoft sobre crimes cibernéticos nos últimos meses, incluindo um no ano passado que discutia a propaganda gerada por IA proveniente de China e Coreia do Norte.
No entanto, é preciso dizer que as ameaças da IA estão em todo o lado. As fraudes falsas estão a aumentar acentuadamente nos EUA, no Reino Unido e noutros países ocidentais e europeus, tal como no Oriente.
A Microsoft está agora a seguir mais de 300 agentes de ameaças únicos, incluindo agentes do Estado-nação e grupos de ransomware, tirando partido da IA para melhorar as suas defesas e interromper actividades maliciosas.
As ciberameaças de IA estão a aumentar e o facto é que são internacionais e difíceis de conter.
