Indiens parlamentsvalg i 2024, den største demokratiske øvelse i verden med over 960 millioner stemmeberettigede, er ved at blive transformeret af AI-intelligens og hyperrealistisk deep fake-indhold.
En ny generation af teknologikyndige politiske agenter udnytter AI til at skabe syntetiske medier med politiske og kommercielle hensigter.
En af de mest fremtrædende personer i Indiens nye "deep fake-industri" er Divyendra Singh Jadoun, en 31-årig selvudnævnt "indisk deep faker", som hurtigt er blevet en go-to leverandør til politiske kampagner.
Det, der startede som en solooperation med Bollywood-parodier, har udviklet sig til et fuldt udbygget syntetisk mediestudie.
"Han har siden udvidet på grund af alt det arbejde, der kommer til ham," siger den Bangalore-baserede reporter Saritha Rai siger til Bloomberg.
"Første gang jeg talte med ham, sagde han, at han havde et par medarbejdere, og det var for et par måneder siden. Så fortalte han mig, at han har fem andre ansatte, som hjælper dem med at lave de her videoer."
Ved hjælp af AI-modeller, der er trænet på timevis af autentiske optagelser, genererer Jadoun og hans team uhyggeligt realistiske videoer af politikere som premierminister Narendra Modi, der ser ud til at tale til vælgerne ved navn.
"Det niveau af hyperpersonalisering, der er muligt med generativ AI ... Du kan bare træne modellen til at sige hovedbudskabet og derefter fodre den med tusinder og atter tusinder af navne. Og den vil øjeblikkeligt gengive den samme video og synkronisere den perfekt med Narendra Modi, der kalder hver person ved navn," forklarer Rai.
AI-valgkampagner efterligner intimiteten i personlige interaktioner i en næsten uendelig skala og til en overkommelig pris.
Rai bemærker desuden, at "en stor del af kampagnen vil blive hyperpersonaliseret til vælgerne ... meget af det vil nå ud til dem via deres telefoner. Og meget af det vil være AI-genereret materiale."
Deep fakes er udbredt i Indien forud for valget
Rai forklarer, hvordan millioner af mennesker i Indien bliver introduceret til teknologi for første gang gennem smartphones, der er til at betale.
En digitalt uerfaren befolkning er langt mere modtagelig for vildledende indhold.
Det samme kan også siges om ældre mennesker, som ikke er så udsatte for internetindholdets tåbeligheder.
Men selv blandt dem, der vurderer sig selv som effektive til at identificere AI-fakes, undersøgelser afslører at eSelv når vi ved, at medierne er falske, kan det påvirke vores hukommelse og beslutningstagning.
Ud over dybe forfalskninger, der er designet til at stille offentlige personer i et positivt lys, er der også eksempler på ondsindede politiske deep fakes bliver også mere almindelige i Indien.
I november opdagede faktatjekkeren Muralikrishnan Chinnadurai f.eks. en livestream, der skulle vise Duwaraka, den for længst afdøde datter af en tamilsk militant leder, holde en brændende politisk tale.
Chinnadurai identificerede fejl og afslørede, at det var en AI-genereret avatar. "Det er et følelsesladet emne i staten [Tamil Nadu], og med valg lige om hjørnet kan misinformation hurtigt sprede sig," siger han. sagde han til BBC.
I sidste måned gik dybt falske videoer af Bollywood-stjernerne Ranveer Singh og Aamir Khan, der tilsyneladende støttede oppositionspartiet Kongressen, viralt, hvilket førte til politianmeldelser fra skuespillerne.
Den 29. april advarede premierminister Modi selv om, at der blev brugt deep fakes til at forfalske taler fra regeringspartiets ledere.
Dagen efter blev to medarbejdere fra oppositionspartiet arresteret for en forfalsket video af indenrigsminister Amit Shah. Oppositionspartiet Bharatiya Janata Party (BJP) har været udsat for lignende beskyldninger fra rivaler.
Indtil videre har Indiens regering kun tilbudt et begrænset tilsyn og i vid udstrækning udliciteret indholdsmoderation til sociale medieplatforme. "Indien har ingen regulering overhovedet, når det gælder AI," siger Rai.
Regeringen begyndte for nylig at kræve forhåndsgodkendelse, før den lancerede "upålidelige" AI-værktøjer, og advarede mod output, der kunne underminere valg, men der mangler omfattende regler. Det samme kan siges om store dele af verden.
Som den tidligere valgkommissær SY Qureshi så rammende advarer om: "Rygter har altid været en del af valgkampen. [Men i de sociale mediers tidsalder kan det sprede sig som en steppebrand ... Det kan faktisk sætte landet i brand."
