Indiens allmänna val 2024, det största demokratiska valet i världen med över 960 miljoner röstberättigade, håller på att förändras av AI-intelligens och hyperrealistiskt "deep fake"-innehåll.
En ny generation av tekniskt kunniga politiska aktörer utnyttjar AI för att skapa syntetiska medier med politiska och kommersiella syften.
En av de mest framträdande personerna i Indiens framväxande "deep fake-industri" är Divyendra Singh Jadoun, en 31-årig självutnämnd "Indian Deep faker" som snabbt har blivit en leverantör till politiska kampanjer.
Det som började som en enskild verksamhet med Bollywood-parodier har utvecklats till en fullfjädrad studio för syntetiska medier.
"Han har sedan dess expanderat på grund av allt arbete som kommer till honom", säger Bangalore-baserade reportern Saritha Rai säger till Bloomberg.
"Första gången jag talade med honom sa han att han hade ett par anställda, och det var för några månader sedan. Sedan berättade han att han har fem andra anställda som hjälper dem att göra de här videorna."
Med hjälp av AI-modeller som tränats på timmar av autentiskt filmmaterial genererar Jadoun och hans team kusligt realistiska videor av politiker som premiärminister Narendra Modi som verkar tilltala väljarna med namn.
"Den nivå av hyperpersonalisering som är möjlig med generativ AI ... Du kan bara träna modellen att säga huvudbudskapet och sedan mata den med tusentals och åter tusentals namn. Och den kommer omedelbart att reproducera samma video och synkronisera den perfekt med Narendra Modi som ropar ut varje person med namn", förklarar Rai.
AI-valkampanjer efterliknar intimiteten i personliga interaktioner i en nästan oändlig skala och till en överkomlig kostnad.
Rai konstaterar vidare att "mycket av kampanjen kommer att vara hyperpersonaliserad för väljarna ... mycket av det kommer att nå dem via deras telefoner. Och mycket av det kommer att vara AI-genererat material."
Förfalskningar är vanligt förekommande i Indien inför valet
Rai förklarar att problemet i Indien förvärras av att miljontals människor för första gången kommer i kontakt med teknik genom prisvärda smartphones.
En digitalt oerfaren befolkning är mycket mer mottaglig för vilseledande innehåll.
Detsamma kan också sägas om äldre människor, som inte är lika utsatta för internetinnehållets dårskap.
Men även bland dem som anser sig vara effektiva på att identifiera AI-förfalskningar, studier visar att even om vi vet att medierna är falska kan de påverka vårt minne och vårt beslutsfattande.
Förutom djupa förfalskningar som syftar till att framställa offentliga personer i ett positivt ljus, förekommer skadliga politiska djupa förfalskningar blir också allt vanligare i Indien.
I november upptäckte till exempel faktagranskaren Muralikrishnan Chinnadurai en livestream som påstods visa Duwaraka, den sedan länge döda dottern till en tamilsk militant ledare, som höll ett brinnande politiskt tal.
Chinnadurai identifierade felaktigheter och avslöjade att det var en AI-genererad avatar. "Det här är en känslosam fråga i delstaten [Tamil Nadu] och med val runt hörnet kan felaktig information snabbt spridas", säger han. sa han till BBC.
Förra månaden spreds falska videor med Bollywoodstjärnorna Ranveer Singh och Aamir Khan som till synes stödde oppositionspartiet Congress, vilket ledde till polisanmälningar från skådespelarna.
Den 29 april varnade premiärminister Modi själv för att djupa förfalskningar skulle användas för att manipulera tal av regeringspartiets ledare.
Dagen därpå greps två oppositionella partiarbetare för en förfalskad video av inrikesminister Amit Shah. Oppositionspartiet Bharatiya Janata Party (BJP) har utsatts för liknande anklagelser från rivaler.
Hittills har Indiens regering inte haft någon större tillsyn, utan till stor del lagt ut moderering av innehåll på sociala medieplattformar. "Indien har ingen reglering alls när det gäller AI", säger Rai.
Regeringen har nyligen börjat kräva förhandsgodkännande innan "opålitliga" AI-verktyg lanseras och varnat för resultat som kan underminera val, men heltäckande regler saknas. Detsamma kan sägas om stora delar av världen.
Som den tidigare valkommissionären SY Qureshi så träffande varnar för: "Rykten har alltid varit en del av valrörelsen. [Men i de sociala mediernas tidsålder kan de spridas som löpeldar... De kan faktiskt sätta landet i brand."
