Selon un nouveau rapport, les extrémistes violents utilisent des outils d'IA générative pour créer du contenu à grande échelle, en contournant les garde-fous et les filtres.
Entreprise intelligente La technologie contre le terrorisme a identifié environ 5 000 exemples de contenu généré par l'IA, y compris des images liées à des groupes tels que le Hezbollah et le Hamas.
Ces images sont souvent liées à des sujets sensibles tels que la guerre entre Israël et le Hamas, ce qui indique une utilisation stratégique de l'IA pour influencer les récits.
Il y a eu de nombreux exemples d'images générées par l'IA impliquant Israël et la Palestine dans des atrocités et des événements auxquels ils n'ont pas participé. Les "deep fakes" constituent une double menace : les fausses images peuvent être interprétées comme des vraies, et les vraies images comme des fausses.
Adam Hadley, directeur exécutif de Tech Against Terrorism, a déclaré : "Notre plus grande inquiétude est que si les terroristes commencent à utiliser l'intelligence artificielle pour manipuler l'imagerie à grande échelle, cela pourrait bien détruire le partage de hash en tant que solution. Il s'agit d'un risque énorme.
Le partage de hachages dans la modération de contenu implique la création d'empreintes numériques uniques (hachages) des contenus préjudiciables, qui sont ensuite partagées entre les plateformes. Cela permet à différents services d'identifier et de supprimer rapidement ces contenus, améliorant ainsi l'efficacité et l'efficience des efforts de modération de contenu.
Cette méthode pourrait s'avérer inefficace si l'IA crée un nouveau contenu méconnaissable.
📰 Dans l'actualité | Voici comment les extrémistes violents exploitent les outils d'IA générative
Notre directeur exécutif, Adam Hadley, nous a fait part de ses dernières réflexions sur les thèmes suivants #AI et un projet pilote avec @Microsoft sur @WIRED.
Lire ici : https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i
- Tech Against Terrorism (@techvsterrorism) 10 novembre 2023
Des groupes néonazis qui utilisent des images racistes et antisémites générées par l'IA à l'État islamique (EI) qui publie des guides sur l'utilisation sécurisée des outils d'IA générative, la portée de l'utilisation abusive de l'IA ne cesse de s'élargir.
Les groupes extrémistes utilisent également l'IA pour créer une propagande multilingue et des messages de recrutement personnalisés.
Le problème ne se limite pas à la propagande extrémiste. Par exemple, l'Internet Watch Foundation a rapporté que plus de 20 000 images générées par l'IA d'abus sexuels sur des enfants sur un seul forum du dark web en un mois, soulignant les implications plus larges de l'utilisation abusive de l'IA.
M. Hadley a assuré qu'il existait des mécanismes permettant d'enrayer cette tendance : "Nous allons nous associer à Microsoft pour déterminer s'il existe des moyens d'utiliser nos archives pour créer une sorte de système de détection de l'IA génique afin de contrer la menace émergente que l'IA génique soit utilisée à grande échelle pour du contenu terroriste".
M. Hadley suggère qu'un tel outil pourrait être mis à la disposition de plusieurs plateformes, ce qui permettrait à ces dernières de s'attaquer aux contenus problématiques générés par l'IA sans avoir à développer leurs propres outils.
En savoir plus sur le rapport
Les opérations intelligentes de Tech Against Terrorism ont permis d'archiver plus de 5 000 contenus générés par l'IA et utilisés par des acteurs terroristes et extrémistes violents. Ils soulignent que cela ne représente qu'une petite fraction du volume total de contenus d'ETV identifiés chaque année.
Les rapport couvre principalement le contenu des idéologies islamistes et d'extrême droite, montrant une tendance inquiétante des ETP à utiliser l'IA générative à des fins de propagande.
Principales conclusions et préoccupations
Les réseaux d'ETP affiliés à l'État islamique (EI), aux partisans d'Al-Qaïda et aux néo-nazis ont expérimenté l'IA générative.
Ees exemples sont les suivants :
- Le groupe d'assistance technique d'IS publie un guide sur l'utilisation sécurisée des générateurs de contenu AI.
- Canaux de messagerie néo-nazis diffusant des images racistes et antisémites générées par l'IA.
- Les propagandistes d'extrême droite utilisent des outils d'imagerie générés par l'IA pour créer des mèmes extrémistes.
- Des utilisateurs pro-IS affirment avoir utilisé l'IA pour la transcription et la traduction de la propagande de l'IS.
- Des organisations proches d'Al-Qaida publient des affiches de propagande générées par l'IA.
Risques potentiels de l'exploitation de l'IA générative
Selon le rapport :
- Le frai des médias: Générer des variantes d'images ou de vidéos pour contourner la détection.
- Traduction multilingue automatisée: Traduire la propagande textuelle en plusieurs langues.
- Propagande entièrement synthétique: Création de contenu artificiel, tel que des discours et des images.
- Recyclage des variantes: Réutilisation de l'ancienne propagande pour en faire de "nouvelles" versions.
- Propagande personnalisée: Personnalisation des messages pour un recrutement ciblé.
- Subvertir la modération: Conception de contenus permettant de contourner les techniques de modération existantes.
Opportunités et défis:
- Des solutions proactives et des efforts de collaboration, comme le "red-teaming", sont nécessaires pour identifier et atténuer les risques.
- Les cas d'IA à petite échelle utilisés par les acteurs de l'ETP signalent une menace émergente, nécessitant des solutions techniques et l'élaboration de politiques.
Préoccupations futures:
- Les groupes extrémistes continueront probablement à explorer les outils d'IA pour renforcer leurs stratégies de propagande.
- Les organisations extrémistes violentes non officielles peuvent exploiter les outils d'IA de manière plus agressive en raison d'un manque de ressources et de matériel original.
Si le risque actuel d'une adoption généralisée de l'IA générative par les ETP est faible, les tendances émergentes indiquent une menace croissante.
Les "deep fakes" et autres formes de manipulation assistée par l'IA constituent un risque pressant que les entreprises technologiques s'efforcent de maîtriser.
