A Microsoft lançou um alerta sobre as novas ameaças tecnológicas provenientes da China e da Coreia do Norte que tiram partido da IA para realizar operações maliciosas contra os EUA.
O relatório do Centro de Análise de Ameaças da Microsoft (MTAC) centra-se na utilização da IA como arma para semear a discórdia social e comprometer a segurança nacional.
"No último ano, a China aperfeiçoou uma nova capacidade de gerar automaticamente imagens que pode utilizar em operações de influência destinadas a imitar os eleitores americanos em todo o espetro político e a criar controvérsia ao longo de linhas raciais, económicas e ideológicas", Microsoft declarou no seu relatório.
A empresa explicou a tecnologia subjacente a estas operações: "Esta nova capacidade é alimentada por inteligência artificial que tenta criar conteúdo de alta qualidade que pode tornar-se viral nas redes sociais nos EUA e noutras democracias".
E continua: "O mais provável é que estas imagens sejam criadas por algo chamado geradores de imagens com poder de difusão que utilizam a IA não só para criar imagens apelativas, mas também para aprender a melhorá-las ao longo do tempo".
Já vimos muitas provas de que isto está a acontecer a nível nacional, incluindo esquemas virais associado a Elon Musk, fotografias falsas de explosões no Pentágonoe uma misteriosa entrevista gerada por uma IA que alegadamente incluía um versão falsa e profunda da voz de Donald Trump antes de os observadores darem meia volta e dizerem que era real.
Este último é um exemplo de como as falsificações profundas também criam um "dividendo do mentiroso", em que os políticos e as figuras públicas podem refutar algo que mancha a sua reputação como "falso" quando é genuíno, sublinhando os riscos multifacetados da confusão entre a realidade e as falsificações.
Foco e objectivos da campanha
De acordo com a Microsoft, os intervenientes chineses afiliados ao Estado estão a utilizar a IA para visar questões politicamente polémicas nos EUA, como a violência com armas.
Hoje cedo, A Google estipulou que os anúncios políticos gerados por IA têm de o indicar claramente se incluírem "conteúdo sintético que represente de forma não autêntica pessoas ou acontecimentos reais ou de aspeto realista".
"Esta tecnologia produz conteúdos mais apelativos do que os estranhos desenhos digitais e as colagens de fotografias de arquivo utilizadas em campanhas anteriores", afirma o relatório da Microsoft, acrescentando que a tecnologia só irá melhorar.
A Microsoft também destacou as ameaças da Coreia do Norte, afirmando: "Para além do que observámos da China, a Coreia do Norte é uma ameaça cibernética capaz, centrada na recolha de informações e no roubo de criptomoedas necessárias para gerar receitas para o Estado".
Avaliação contínua da ameaça
O novo relatório do MTAC faz parte de uma série contínua destinada a avaliar as ameaças digitais provenientes da Ásia Oriental.
O relatório descreve sectores e regiões específicos que correm um risco acrescido e sublinha a necessidade de uma ação colectiva para orientar a governação da indústria internacional da IA, que aqueceu nas últimas semanas.
Entretanto, o governo dos Estados Unidos continua a cortar o acesso da China à aquisição de chips topo de gama concebidos para o treino de IA, adquiridos principalmente à Nvidia.
A China planeia criar a sua própria indústria nacional de fabrico de chips para reduzir a dependência do estrangeiro em relação ao hardware de IA.
A Microsoft está a dar o alarme sobre a escalada das tensões geopolíticas entre a China e os EUA, e a IA está na sua intersecção.
