Gewelddadige extremisten gebruiken generatieve AI-tools om op grote schaal inhoud te creëren en omzeilen daarbij de vangrails en filters, zo blijkt uit een nieuw rapport.
Intelligent bedrijf Technologie tegen terrorisme identificeerde ongeveer 5.000 voorbeelden van door AI gegenereerde inhoud, waaronder afbeeldingen die zijn gekoppeld aan groepen als Hezbollah en Hamas.
Deze beelden hebben vaak betrekking op gevoelige onderwerpen zoals de oorlog tussen Israël en Hamas, wat wijst op een strategisch gebruik van AI om verhalen te beïnvloeden.
Er zijn talrijke voorbeelden van AI-gegenereerde beelden die zowel Israël als Palestina betrekken bij wreedheden en gebeurtenissen waar ze geen hand in hebben gehad. Deep fakes vormen een dubbele bedreiging: nepbeelden kunnen als echt worden geïnterpreteerd en echte beelden als nep.
Adam Hadley, de uitvoerend directeur van Tech Against Terrorism, verklaarde: "Onze grootste zorg is dat als terroristen gen-AI gaan gebruiken om beelden op grote schaal te manipuleren, dit hash-sharing als oplossing wel eens teniet zou kunnen doen. Dit is een enorm risico."
Hash-sharing bij contentmoderatie houdt in dat er unieke digitale vingerafdrukken (hashes) worden gemaakt van schadelijke content, die vervolgens worden gedeeld op verschillende platformen. Hierdoor kunnen verschillende diensten deze inhoud snel identificeren en verwijderen, wat de effectiviteit en efficiëntie van contentmoderatie verbetert.
Deze methode kan ineffectief zijn als AI nieuwe, onherkenbare inhoud creëert.
In het nieuws | Gewelddadige extremisten maken misbruik van AI-tools
Onze uitvoerend directeur, Adam Hadley, deelde onze nieuwste inzichten over #AI en proefproject met @Microsoft op @WIRED.
Lees hier: https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i
- Tech tegen terrorisme (@techvsterrorism) 10 november 2023
Van neonazigroepen die racistisch en antisemitisch AI-gegenereerd beeldmateriaal gebruiken tot de Islamitische Staat (IS) die gidsen publiceert over het veilige gebruik van generatieve AI-tools, de reikwijdte van AI-misbruik wordt steeds groter.
Extremistische groeperingen gebruiken AI ook om meertalige propaganda en gepersonaliseerde wervingsberichten te maken.
Het probleem reikt verder dan extremistische propaganda. De Internet Watch Foundation meldde bijvoorbeeld meer dan 20.000 AI-gegenereerde afbeeldingen van seksueel misbruik van kinderen op één dark web forum in één maand, wat de bredere implicaties van AI-misbruik onderstreept.
Hadley verzekerde dat er mechanismen zijn om deze trend te stoppen en zei: "We gaan samenwerken met Microsoft om uit te zoeken of er manieren zijn om ons archief van materiaal te gebruiken om een soort gen-AI detectiesysteem te maken om de opkomende dreiging tegen te gaan dat gen-AI op grote schaal zal worden gebruikt voor terroristische inhoud."
Hadley suggereert dat een dergelijke tool beschikbaar kan worden gemaakt voor meerdere platforms, zodat platforms problematische AI-gegenereerde inhoud kunnen aanpakken zonder hun eigen tools te ontwikkelen.
Meer over het rapport
De intelligente operaties van Tech Against Terrorism hebben meer dan 5.000 AI-gegenereerde inhoud gearchiveerd die wordt gebruikt door terroristische en gewelddadige extremistische actoren (TVE's). Ze benadrukken dat dit slechts een fractie is van het totale volume aan TVE-inhoud dat jaarlijks wordt geïdentificeerd.
De verslag heeft voornamelijk betrekking op inhoud voor islamitische en extreem-rechtse ideologieën en laat een verontrustende trend zien van tv-programma's die generatieve AI gebruiken voor propaganda.
Belangrijkste bevindingen en zorgen
TVE-netwerken die banden hebben met Islamitische Staat (IS), aanhangers van Al-Qaeda en neonazi's hebben geëxperimenteerd met generatieve AI.
EVoorbeelden zijn onder andere:
- De technische ondersteuningsgroep van IS publiceert een handleiding over het veilig gebruik van AI-contentgeneratoren.
- Neonazistische berichtenkanalen die door AI gegenereerde racistische en antisemitische beelden verspreiden.
- Extreem-rechtse propagandisten gebruiken AI-gegenereerde beeldhulpmiddelen om extremistische memes te maken.
- Pro-IS gebruikers beweren AI te hebben gebruikt voor het transcriberen en vertalen van IS propaganda.
- Aan Al Qaida gelieerde kanalen publiceren door AI gegenereerde propagandaposters.
Potentiële risico's van generatieve AI-exploitatie
Volgens het rapport:
- Media paaien: Varianten van afbeeldingen of video's genereren om detectie te omzeilen.
- Geautomatiseerde meertalige vertaling: Tekstgebaseerde propaganda vertalen naar meerdere talen.
- Volledig synthetische propaganda: Kunstmatige inhoud maken, zoals toespraken en afbeeldingen.
- Variant recycling: Oude propaganda omvormen tot "nieuwe" versies.
- Gepersonaliseerde propaganda: Boodschappen aanpassen voor gerichte werving.
- Matiging ondermijnen: Inhoud ontwerpen om bestaande moderatietechnieken te omzeilen.
Kansen en uitdagingen:
- Proactieve oplossingen en samenwerking, zoals "red-teaming", zijn nodig om risico's te identificeren en te beperken.
- Kleinschalig gebruik van AI door TVE-actoren duidt op een opkomende dreiging, die technische oplossingen en beleidsvorming vereist.
Toekomstige zorgen:
- Extremistische groeperingen zullen waarschijnlijk doorgaan met het verkennen van AI-tools om propagandastrategieën uit te breiden.
- Onofficiële gewelddadige extremistische kanalen kunnen AI-hulpmiddelen agressiever gebruiken vanwege een gebrek aan middelen en origineel materiaal.
Hoewel het huidige risico van grootschalige toepassing van generatieve AI door TVE's laag is, wijzen nieuwe patronen op een toenemende dreiging.
Deep fakes en andere vormen van AI-ondersteunde manipulatie vormen een urgent risico dat techbedrijven maar moeilijk onder controle krijgen.
