O Centro Nacional de Cibersegurança (NCSC) do Reino Unido publicou recentemente um relatório fundamental, que fornece uma avaliação exaustiva da forma como a IA está preparada para influenciar o panorama das ciberameaças nos próximos dois anos.
O presente relatório surge na sequência dos debates realizados na Cimeira de Segurança da IA de Bletchley em novembro de 2023, onde a "dupla natureza" da IA, que é simultaneamente um benefício e um risco para a cibersegurança, foi um dos principais pontos de atenção.
Embora os avanços da IA apresentem novas oportunidades para a ciberdefesa, também abrem caminho a ciberataques mais sofisticados e mais difíceis de detetar.
O relatório sugere um futuro em que o panorama da cibersegurança se torna cada vez mais complexo, com a IA a desempenhar um papel central tanto na defesa como na facilitação das ciberameaças.
Chave riscos do relatório incluir:
- Intensificação do volume e do impacto dos ciberataques: A IA está destinada a aumentar a frequência e a gravidade dos ciberataques.
- Barreiras mais baixas para os cibercriminosos iniciantes: As tecnologias de IA estão a facilitar a execução de ciberataques eficazes por parte dos cibercriminosos amadores e principiantes.
- Disponibilidade generalizada de capacidades cibernéticas com base em IA: A crescente acessibilidade das ferramentas de IA nos mercados criminais e comerciais é suscetível de armar os actores das ciberameaças com novas abordagens.
- Desafios acrescidos em matéria de ciber-resiliência: A IA irá complicar a distinção entre comunicações legítimas e maliciosas, ampliando os desafios na gestão da cibersegurança.
- Engenharia social: A IA aumenta a capacidade dos agentes de ameaças na engenharia social, gerando documentos e comunicações de aparência autêntica, necessários para esquemas de phishing.
- Desenvolvimento de malware e exploits: É provável que a IA ajude a desenvolver malware e exploits, tornando as técnicas existentes mais eficientes.
- Reconhecimento: A IA irá melhorar as actividades de reconhecimento, ajudando os agentes de ameaças a identificar mais rapidamente activos de elevado valor para exame e exfiltração (uma transferência de dados não autorizada).
Lindy Cameron, Directora Executiva do NCSC, explicou o relatório: "A utilização emergente da IA nos ciberataques é evolutiva e não revolucionária, o que significa que melhora as ameaças existentes, como o ransomware, mas não transforma o cenário de risco a curto prazo."
Este facto pode levar a um aumento dos ciberataques, especialmente de ransomware, por parte de indivíduos ou grupos menos experientes. No entanto, os agentes de ameaças estatais altamente capazes continuam a estar melhor posicionados para utilizar a IA no desenvolvimento de malware avançado.
Já vimos o potencial das ferramentas de IA generativa orientadas para a fraude como FraudGPT e WormGPT.
Tal como o NCSC, relatórios anteriores de teor semelhante também destacaram a democratização da IA e o aumento da escala dos ciberataques, incluindo o OpenAI, que recentemente anunciado os seus planos para combater a desinformação eleitoral e as falsificações profundas.
A OpenAI é atualmente a trabalhar com o Departamento de Defesa dos EUA para apoiar e inovar as ciberdefesas, entre outras coisas, e anunciou uma Subvenção de $1 milhão para soluções no ano passado.
