De acordo com um novo relatório, os extremistas violentos estão a utilizar ferramentas de IA generativas para criar conteúdos em grande escala, contornando barreiras e filtros no processo.
Empresa inteligente Tecnologia contra o terrorismo identificou cerca de 5000 exemplos de conteúdos gerados por IA, incluindo imagens ligadas a grupos como o Hezbollah e o Hamas.
Estas imagens estão frequentemente relacionadas com temas sensíveis como a guerra entre Israel e o Hamas, o que indica uma utilização estratégica da IA para influenciar as narrativas.
Houve numerosos exemplos de imagens geradas por IA que implicam tanto Israel como a Palestina em atrocidades e acontecimentos em que não participaram. As falsificações profundas representam uma dupla ameaça: as imagens falsas podem ser interpretadas como reais e as imagens reais como falsas.
Adam Hadley, diretor executivo da Tech Against Terrorism, declarou: "A nossa maior preocupação é que, se os terroristas começarem a utilizar a inteligência artificial para manipular imagens em grande escala, isso poderá destruir a partilha de hash como solução. Trata-se de um risco enorme".
A partilha de hashes na moderação de conteúdos envolve a criação de impressões digitais únicas (hashes) de conteúdos nocivos, que são depois partilhadas entre plataformas. Isto permite que diferentes serviços identifiquem e removam rapidamente esses conteúdos, aumentando a eficácia e a eficiência dos esforços de moderação de conteúdos.
Este método pode ser ineficaz se a IA criar conteúdos novos e irreconhecíveis.
Nas notícias | Eis como os extremistas violentos estão a explorar as ferramentas de IA generativa
O nosso Diretor Executivo, Adam Hadley, partilhou as nossas últimas ideias sobre #AI e projeto-piloto com @Microsoft sobre @WIRED.
Ler aqui: https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i
- Tecnologia contra o terrorismo (@techvsterrorism) 10 de novembro de 2023
Desde grupos neonazis que utilizam imagens racistas e anti-semitas geradas por IA até ao Estado Islâmico (EI) que publica guias sobre a utilização segura de ferramentas de IA generativas, o âmbito da utilização indevida da IA é cada vez maior.
Os grupos extremistas também estão a utilizar a IA para criar propaganda multilingue e mensagens de recrutamento personalizadas.
O problema estende-se para além da propaganda extremista. Por exemplo, a Internet Watch Foundation informou que mais de 20.000 imagens geradas por IA de abuso sexual de crianças num único fórum da dark web num mês, sublinhando as implicações mais vastas da utilização indevida da IA.
Hadley assegurou que existem mecanismos para travar esta tendência, sugerindo: "Vamos estabelecer uma parceria com a Microsoft para descobrir se existem formas de utilizar o nosso arquivo de material para criar uma espécie de sistema de deteção de IA gen, a fim de contrariar a ameaça emergente de que a IA gen será utilizada para conteúdos terroristas em grande escala".
Hadley sugere que uma ferramenta deste tipo poderia ser disponibilizada em várias plataformas, permitindo que as plataformas reprimissem os conteúdos problemáticos gerados por IA sem terem de desenvolver as suas próprias ferramentas.
Mais informações sobre o relatório
As operações inteligentes da Tech Against Terrorism arquivaram mais de 5 000 conteúdos gerados por IA utilizados por actores terroristas e extremistas violentos (TVE). Salientam que isto representa uma pequena fração do volume total de conteúdos TVE identificados anualmente.
O relatório abrange principalmente conteúdos de ideologias islâmicas e de extrema-direita, mostrando uma tendência preocupante de as TVE utilizarem a IA generativa para propaganda.
Principais conclusões e preocupações
As redes de TVE afiliadas ao Estado Islâmico (EI), os apoiantes da Al-Qaeda e os neonazis têm feito experiências com IA generativa.
Exemplos incluem:
- O grupo de apoio técnico do SI publica um guia sobre a utilização segura do gerador de conteúdos de IA.
- Canais de mensagens neo-nazis que distribuem imagens racistas e anti-semitas geradas por IA.
- Os propagandistas de extrema-direita utilizam ferramentas de imagem geradas por IA para criar memes extremistas.
- Os utilizadores pró-IS afirmam ter utilizado a IA para transcrever e traduzir a propaganda do IS.
- Os meios de comunicação social ligados à Al-Qaeda estão a publicar cartazes de propaganda gerados pela IA.
Riscos potenciais da exploração da IA generativa
De acordo com o relatório:
- Geração de media: Geração de variantes de imagens ou vídeos para contornar a deteção.
- Tradução multilingue automatizada: Traduzir propaganda baseada em texto para várias línguas.
- Propaganda totalmente sintética: Criação de conteúdos artificiais, como discursos e imagens.
- Reciclagem de variantes: Transformar a propaganda antiga em "novas" versões.
- Propaganda personalizada: Personalização das mensagens para um recrutamento direcionado.
- Subverter a moderação: Conceber conteúdos para contornar as técnicas de moderação existentes.
Oportunidades e desafios:
- São necessárias soluções proactivas e esforços de colaboração, como o "red-teaming", para identificar e atenuar os riscos.
- Os casos em pequena escala de IA utilizados pelos actores do TVE assinalam uma ameaça emergente, que exige soluções técnicas e a definição de políticas.
Preocupações futuras:
- É provável que os grupos extremistas continuem a explorar ferramentas de IA para aumentar as estratégias de propaganda.
- Os meios de comunicação extremistas violentos não oficiais podem explorar as ferramentas de IA de forma mais agressiva devido à falta de recursos e de material original.
Embora o risco atual de adoção generalizada da IA generativa pelos TVE seja baixo, os padrões emergentes indicam uma ameaça crescente.
As falsificações profundas e outras formas de manipulação apoiadas pela IA representam um risco premente que as empresas de tecnologia estão a lutar para controlar.
