Indias parlamentsvalg i 2024, det største demokratiske valget i verden med over 960 millioner stemmeberettigede, er i ferd med å bli forvandlet av AI-intelligens og hyperrealistisk deep fake-innhold.
En ny generasjon av teknologikyndige politiske aktører utnytter kunstig intelligens til å skape syntetiske medier med politiske og kommersielle hensikter.
En av de mest fremtredende skikkelsene i Indias fremvoksende "deep fake-industri" er Divyendra Singh Jadoun, en 31 år gammel selvutnevnt "indisk deep faker" som raskt har blitt en viktig leverandør til politiske kampanjer.
Det som startet som en solooperasjon med Bollywood-parodier, har utviklet seg til å bli et fullverdig studio for syntetiske medier.
"Han har siden ekspandert på grunn av alt arbeidet som kommer til ham," sier Bangalore-baserte reporter Saritha Rai sier til Bloomberg.
"Første gang jeg snakket med ham, sa han at han hadde et par ansatte, og det var for noen måneder siden. Så fortalte han meg at han har fem andre ansatte som hjelper dem med å lage disse videoene."
Ved hjelp av AI-modeller som er trent opp på timevis med autentisk filmmateriale, genererer Jadoun og teamet hans uhyggelig realistiske videoer av politikere som statsminister Narendra Modi, som ser ut til å henvende seg til velgerne ved navn.
"Det nivået av hyperpersonalisering som er mulig med generativ AI ... Du kan bare trene modellen til å si hovedbudskapet og deretter mate den med tusenvis og atter tusenvis av navn. Og den vil umiddelbart reprodusere den samme videoen og synkronisere den perfekt med Narendra Modi som roper opp hver enkelt person ved navn", forklarer Rai.
AI-valgkampanjer etterligner intimiteten ved personlig interaksjon i nesten uendelig skala og til en overkommelig pris.
Rai bemerker videre at "mye av valgkampen kommer til å bli hypertilpasset til velgerne ... mye av det kommer til å nå dem via telefonene deres. Og mye av det vil være AI-genererte materialer."
Deep fakes er utbredt i India i forkant av valget
Rai forklarer hvordan millioner av mennesker i India blir introdusert til teknologi for første gang gjennom rimelige smarttelefoner.
En digitalt uerfaren befolkning er langt mer mottakelig for villedende innhold.
Det samme kan også sies om eldre mennesker, som igjen ikke er så eksponert for tåpelig innhold på internett.
Men selv blant dem som vurderer seg selv som effektive til å identifisere AI-fakes, studier avslører at even når vi vet at mediene er falske, kan det påvirke hukommelsen og beslutningstakingen vår.
I tillegg til dype forfalskninger som er utformet for å sette offentlige personer i et positivt lys, finnes det tilfeller av ondsinnede politiske dypforfalskninger blir også stadig vanligere i India.
I november oppdaget faktasjekkeren Muralikrishnan Chinnadurai for eksempel en livestream som utgav seg for å vise Duwaraka, den for lengst avdøde datteren til en tamilsk militant leder, holde en flammende politisk tale.
Chinnadurai identifiserte feil, og avslørte at det var en AI-generert avatar. "Dette er et følelsesladet tema i delstaten [Tamil Nadu], og med valg rundt hjørnet kan feilinformasjon raskt spre seg", sier han. sa han til BBC.
I forrige måned gikk falske videoer av Bollywood-stjernene Ranveer Singh og Aamir Khan, som tilsynelatende støttet opposisjonspartiet Kongressen, viralt, noe som førte til politianmeldelser fra skuespillerne.
Den 29. april advarte statsminister Modi selv mot at regjeringspartiets ledere bruker forfalskninger i sine taler.
Dagen etter ble to opposisjonspartiarbeidere arrestert for å ha forfalsket en video av innenriksminister Amit Shah. Opposisjonspartiet Bharatiya Janata Party (BJP) har blitt utsatt for lignende beskyldninger fra rivaler.
Så langt har indiske myndigheter i liten grad ført tilsyn, og har i stor grad overlatt moderering av innhold til sosiale medieplattformer. "India har ingen regulering i det hele tatt når det gjelder kunstig intelligens", sier Rai.
Regjeringen begynte nylig å kreve forhåndsgodkjenning før lansering av "upålitelige" AI-verktøy og advarte mot resultater som kan undergrave valg, men det mangler omfattende regler. Det samme kan sies om store deler av verden.
Som den tidligere valgkommissæren SY Qureshi så treffende advarer: "Rykter har alltid vært en del av valgkampen. [Men i de sosiale medienes tidsalder kan de spre seg som ild i tørt gress ... De kan faktisk sette landet i brann."
