Le elezioni generali del 2024 in India, il più grande esercizio democratico al mondo con oltre 960 milioni di aventi diritto al voto, sono state trasformate dall'ascesa dell'intelligenza artificiale e dei contenuti deep fake iperrealistici.
Con ciò, una nuova generazione di operatori politici esperti di tecnologia sta sfruttando l'intelligenza artificiale per creare media sintetici con intenti politici e commerciali.
Una delle figure più importanti dell'emergente "industria del deep fake" indiana è Divyendra Singh Jadoun, un trentunenne autodefinitosi "Deep faker indiano" che è rapidamente diventato un fornitore di riferimento per le campagne politiche.
Quella che era iniziata come un'operazione solitaria di creazione di parodie di Bollywood si è evoluta in un vero e proprio studio di media sintetici.
"Da allora si è espanso a causa di tutto il lavoro che gli arriva", ha spiegato il giornalista di Bangalore. Saritha Rai racconta a Bloomberg.
"La prima volta che ho parlato con lui, mi ha detto che aveva un paio di lavoratori, ed è stato qualche mese fa. Poi mi ha detto che ha altri cinque dipendenti che li aiutano a realizzare questi video".
Utilizzando modelli di intelligenza artificiale addestrati su ore di filmati autentici, Jadoun e il suo team generano video incredibilmente realistici di politici come il Primo Ministro Narendra Modi che si rivolgono agli elettori chiamandoli per nome.
"Il livello di iper-personalizzazione che è possibile raggiungere con l'intelligenza artificiale generativa... È possibile addestrare il modello a pronunciare il messaggio principale e poi alimentarlo con migliaia e migliaia di nomi. Il modello riprodurrà istantaneamente lo stesso video e lo sincronizzerà perfettamente con Narendra Modi che chiama ogni persona per nome", spiega Rai.
Le campagne elettorali con l'intelligenza artificiale imitano l'intimità delle interazioni di persona su scala quasi infinita e a costi accessibili.
Rai osserva inoltre che "gran parte della campagna elettorale sarà iper personalizzata per gli elettori... gran parte di essa li raggiungerà attraverso i loro telefoni. E gran parte del materiale sarà generato dall'intelligenza artificiale".
I falsi profondi dilagano in India in vista delle elezioni
A complicare il problema in India, Rai spiega che milioni di persone si avvicinano per la prima volta alla tecnologia grazie a smartphone a prezzi accessibili.
Una popolazione inesperta in campo digitale è molto più suscettibile ai contenuti ingannevoli.
Lo stesso si può dire delle persone più anziane, che, ancora una volta, non sono così esposte alla follia dei contenuti di Internet.
Ma anche tra coloro che si ritengono efficaci nell'identificare i falsi dell'intelligenza artificiale, Gli studi rivelano che eQuando sappiamo che i media sono falsi, possono influenzare la nostra memoria e il nostro processo decisionale.
Oltre ai falsi profondi progettati per dipingere figure pubbliche in una luce positiva, i casi di falsi politici dolosi stanno diventando sempre più comuni anche in India.
A novembre, ad esempio, il fact-checker Muralikrishnan Chinnadurai ha individuato un livestream che mostrava Duwaraka, la figlia morta da tempo di un leader militante tamil, mentre teneva un acceso discorso politico.
Chinnadurai ha identificato i difetti, rivelando che si trattava di un avatar generato dall'intelligenza artificiale. "Si tratta di una questione emotiva nello Stato [Tamil Nadu] e con le elezioni alle porte, la disinformazione potrebbe diffondersi rapidamente". ha dichiarato alla BBC.
Il mese scorso, alcuni video falsi delle star di Bollywood Ranveer Singh e Aamir Khan, che sembravano appoggiare il partito del Congresso all'opposizione, sono diventati virali, provocando le denunce della polizia da parte degli attori.
Il 29 aprile, lo stesso Primo Ministro Modi ha messo in guardia contro l'uso di falsi profondi nei discorsi dei leader del partito al potere.
Il giorno successivo, due lavoratori del partito di opposizione sono stati arrestati per un video contraffatto del ministro dell'Interno Amit Shah. L'avversario Bharatiya Janata Party (BJP) ha dovuto affrontare accuse simili da parte dei rivali.
Finora, il governo indiano ha offerto una scarsa supervisione, affidando in gran parte la moderazione dei contenuti alle piattaforme dei social media. "L'India non ha alcuna regolamentazione quando si tratta di IA", afferma Rai.
Di recente il governo ha iniziato a richiedere un'approvazione preventiva prima di lanciare strumenti di IA "inaffidabili" e ha messo in guardia contro i risultati che potrebbero compromettere le elezioni, ma mancano regole complete. Lo stesso si può dire per gran parte del mondo.
Come avverte giustamente l'ex commissario elettorale SY Qureshi, "le voci hanno sempre fatto parte delle elezioni. [Ma nell'era dei social media, possono diffondersi a macchia d'olio... Possono davvero incendiare il Paese".
