O Diretor da NSA e do Comando Cibernético dos EUA, General Paul Nakasone, anunciou um novo centro de segurança da IA num discurso no The National Press Club.
À medida que a IA se torna mais integrada na defesa, na segurança nacional e nas infra-estruturas civis, a NSA vê cada vez mais a necessidade de abordar os riscos associados.
Um estudo recente realizado pela NSA identificou a proteção dos modelos de IA contra roubo e sabotagem como um desafio significativo para a segurança nacional.
Nakasone afirmou que "a IA será cada vez mais importante para a segurança nacional em questões diplomáticas, tecnológicas e económicas para o nosso país e para os nossos aliados e parceiros". Os aspectos "diplomáticos" e "tecnológicos" da segurança nacional estão a ser objeto de maior atenção à medida que as potências mundiais competem no palco da IA.
"Os nossos adversários, que durante décadas utilizaram o roubo e a exploração da nossa propriedade intelectual para fazer avançar os seus interesses, procurarão cooptar os nossos avanços em matéria de IA e corromper a nossa aplicação da mesma", afirmou Nakasone, sem mencionar explicitamente a China.
O novo centro de segurança de IA ficará sob a supervisão operacional do Centro de Colaboração em Segurança Cibernética da NSA. Nakasone explicou que o novo centro se concentraria em "promover a adoção segura de novos recursos de IA em toda a empresa de segurança nacional e na base da indústria de defesa".
IA: Tanto a causa como a solução do problema
Os riscos evidentes da IA como arma são algumas das áreas claras e óbvias em que a NSA se está a concentrar.
O diretor da NSA afirmou que o seu departamento ainda não tinha detectado esforços da China ou da Rússia para influenciar as próximas eleições americanas, mas que, com base na experiência passada, o risco se mantinha.
A relatório recente destacou um aumento dos ataques à cibersegurança por parte de ciber-actores chineses conhecidos como BlackTech. À medida que a IA melhora, aumenta também a sofisticação e a escala destes ataques.
Utilizar a IA para processar grandes quantidades de dados e informar decisões para identificar e mitigar estes riscos é uma perspetiva atractiva. Mas à medida que a IA é incorporada nas operações de organizações de segurança nacional como a NSA, também as expõe a novos riscos.
Se não compreendermos exatamente como é que um modelo de IA chega a uma recomendação, podemos confiar nele? Se o modelo for propenso a enviesamentos ou alucinações, poderá o conjunto de dados subjacente ser corrompido por maus actores?
O CIA anunciou que estava a desenvolver a sua própria versão de IA do ChatGPT e a DARPA está a investigar como utilizar a IA para tomar decisões no campo de batalha. Imagine-se o que poderia acontecer se estas ferramentas de IA pudessem ser influenciadas para dar maus conselhos.
O centro de segurança da NSA tem como objetivo proteger estas instituições de verem a sua tecnologia roubada ou sabotada pelos adversários dos EUA. O Diretor também sublinhou que a IA não irá automatizar as decisões de segurança nacional.
"A IA ajuda-nos, mas as nossas decisões são tomadas por humanos", disse Nakasone. Mas quanto melhor for a IA, mais os humanos dependerão dela para tomar as suas decisões.
E quanto mais a segurança nacional depende da IA, mais vulnerável se torna a sociedade a uma falha ou sabotagem da IA.
