Secondo un nuovo rapporto, gli estremisti violenti stanno utilizzando strumenti di intelligenza artificiale generativa per creare contenuti su scala, aggirando barriere e filtri.
Azienda intelligente Tecnologia contro il terrorismo ha identificato circa 5.000 esempi di contenuti generati dall'intelligenza artificiale, tra cui immagini legate a gruppi come Hezbollah e Hamas.
Queste immagini si riferiscono spesso a temi sensibili come la guerra tra Israele e Hamas, indicando un uso strategico dell'IA per influenzare le narrazioni.
Ci sono stati numerosi esempi di immagini generate dall'intelligenza artificiale che coinvolgono sia Israele che la Palestina in atrocità ed eventi in cui non hanno avuto alcun ruolo. I falsi profondi rappresentano una duplice minaccia: le immagini false possono essere interpretate come reali e quelle vere come false.
Adam Hadley, direttore esecutivo di Tech Against Terrorism, ha dichiarato: "La nostra più grande preoccupazione è che se i terroristi iniziano a usare la gen AI per manipolare le immagini su scala, questo potrebbe distruggere l'hash-sharing come soluzione". È un rischio enorme".
La condivisione di hash nella moderazione dei contenuti prevede la creazione di impronte digitali uniche (hash) di contenuti dannosi, che vengono poi condivise tra le varie piattaforme. Ciò consente a diversi servizi di identificare e rimuovere rapidamente tali contenuti, migliorando l'efficacia e l'efficienza degli sforzi di moderazione dei contenuti.
Questo metodo potrebbe essere inefficace se l'intelligenza artificiale crea contenuti nuovi e irriconoscibili.
📰 Nelle news | Ecco come gli estremisti violenti sfruttano gli strumenti di intelligenza artificiale generativa
Il nostro direttore esecutivo, Adam Hadley, ha condiviso le nostre ultime intuizioni su #AI e progetto pilota con @Microsoft su @WIRED.
Leggi qui: https://t.co/AUhrNTZibJ pic.twitter.com/yqY95J3L8i
- Tecnologia contro il terrorismo (@techvsterrorismo) 10 novembre 2023
Dai gruppi neonazisti che utilizzano immagini razziste e antisemite generate dall'IA alla pubblicazione da parte dello Stato Islamico (IS) di guide sull'uso sicuro degli strumenti di IA generativa, la portata dell'uso improprio dell'IA è sempre più ampia.
I gruppi estremisti utilizzano l'intelligenza artificiale anche per creare propaganda multilingue e messaggi di reclutamento personalizzati.
Il problema si estende oltre la propaganda estremista. Per esempio, la Fondazione Internet Watch ha riferito che oltre 20.000 immagini generate dall'intelligenza artificiale di abusi sessuali su minori su un singolo forum del dark web in un mese, sottolineando le implicazioni più ampie dell'uso improprio dell'IA.
Hadley ha assicurato che esistono meccanismi per arrestare questa tendenza, suggerendo: "Collaboreremo con Microsoft per capire se esistono modi per utilizzare il nostro archivio di materiale per creare una sorta di sistema di rilevamento dell'IA genetica per contrastare la minaccia emergente che l'IA genetica venga utilizzata per contenuti terroristici su larga scala".
Hadley suggerisce che uno strumento del genere potrebbe essere reso disponibile su più piattaforme, consentendo alle piattaforme di bloccare i contenuti problematici generati dall'intelligenza artificiale senza dover sviluppare strumenti propri.
Per saperne di più sul rapporto
Le operazioni intelligenti di Tech Against Terrorism hanno archiviato oltre 5.000 contenuti generati dall'intelligenza artificiale e utilizzati da attori terroristi ed estremisti violenti (TVE). L'azienda sottolinea che questo dato rappresenta una piccola frazione del volume totale di contenuti TVE identificati annualmente.
Il rapporto copre principalmente contenuti di ideologie islamiste e di estrema destra, mostrando una tendenza preoccupante delle TVE a utilizzare l'IA generativa per la propaganda.
Risultati e preoccupazioni principali
Le reti TVE affiliate allo Stato Islamico (IS), ai sostenitori di Al-Qaeda e ai neonazisti hanno sperimentato l'IA generativa.
Eesempi includono:
- Il gruppo di supporto tecnico IS pubblica una guida sull'uso sicuro del generatore di contenuti AI.
- Canali di messaggistica neonazista che distribuiscono immagini razziste e antisemite generate dall'intelligenza artificiale.
- I propagandisti dell'estrema destra utilizzano strumenti di immagine generati dall'intelligenza artificiale per creare meme estremisti.
- Gli utenti pro-IS affermano di aver utilizzato l'IA per la trascrizione e la traduzione della propaganda dell'IS.
- Gli organi di informazione allineati ad Al-Qaeda stanno pubblicando manifesti di propaganda generati dall'AI.
Rischi potenziali dello sfruttamento dell'IA generativa
Secondo il rapporto:
- Generazione di media: Generazione di varianti di immagini o video per eludere il rilevamento.
- Traduzione multilingue automatizzata: Tradurre la propaganda testuale in più lingue.
- Propaganda completamente sintetica: Creare contenuti artificiali, come discorsi e immagini.
- Variante di riciclaggio: Riproporre la vecchia propaganda in versioni "nuove".
- Propaganda personalizzata: Personalizzazione della messaggistica per un reclutamento mirato.
- Sovvertire la moderazione: Progettare contenuti per aggirare le tecniche di moderazione esistenti.
Opportunità e sfide:
- Per identificare e ridurre i rischi sono necessarie soluzioni proattive e sforzi collaborativi, come il "red-teaming".
- I casi di IA su piccola scala utilizzati dagli attori TVE segnalano una minaccia emergente, che richiede soluzioni tecniche e politiche.
Preoccupazioni per il futuro:
- È probabile che i gruppi estremisti continuino a esplorare gli strumenti di intelligenza artificiale per aumentare le strategie di propaganda.
- I canali non ufficiali dell'estremismo violento possono sfruttare gli strumenti di IA in modo più aggressivo a causa della mancanza di risorse e di materiale originale.
Sebbene il rischio attuale di un'adozione diffusa dell'IA generativa da parte dei TVE sia basso, i modelli emergenti indicano una minaccia crescente.
Le falsificazioni profonde e altre forme di manipolazione supportate dall'intelligenza artificiale rappresentano un rischio pressante che le aziende tecnologiche stanno lottando per controllare.
