Las elecciones generales de 2024 en la India, el mayor ejercicio democrático del mundo con más de 960 millones de votantes, se están transformando con el auge de la inteligencia artificial y los contenidos falsos hiperrealistas.
Con ello, una nueva generación de agentes políticos expertos en tecnología está aprovechando la IA para crear medios sintéticos con fines políticos y comerciales.
Una de las figuras más destacadas de la emergente "industria de la falsificación profunda" india es Divyendra Singh Jadoun, un autodenominado "falsificador profundo indio" de 31 años que se ha convertido rápidamente en un proveedor de referencia para campañas políticas.
Lo que empezó como una operación en solitario haciendo parodias de Bollywood se ha convertido en un estudio de medios sintéticos en toda regla.
"Desde entonces se ha expandido debido a todo el trabajo que le está llegando", afirma el reportero de Bangalore Saritha Rai explica a Bloomberg.
"La primera vez que hablé con él, me dijo que tenía un par de trabajadores, y eso fue hace unos meses. Luego, me dijo que tiene otros cinco empleados que les ayudan a hacer estos vídeos".
Utilizando modelos de inteligencia artificial entrenados con horas de imágenes auténticas, Jadoun y su equipo generan vídeos increíblemente realistas de políticos como el Primer Ministro Narendra Modi que aparecen dirigiéndose a los votantes por su nombre.
"El nivel de hiperpersonalización que es posible con la IA generativa... Basta con entrenar el modelo para que diga el mensaje principal y luego alimentarlo con miles y miles de nombres. Y reproducirá instantáneamente ese mismo vídeo y lo sincronizará perfectamente con Narendra Modi llamando a cada persona por su nombre", explica Rai.
Las campañas electorales con IA imitan la intimidad de las interacciones en persona a una escala casi infinita y a un coste asequible.
Rai señala además que "gran parte de la campaña va a ser hiperpersonalizada para los electores... gran parte de ella va a llegarles a través de sus teléfonos. Y gran parte será material generado por IA".
En la India proliferan las falsificaciones en vísperas de las elecciones
Para agravar el problema en la India, Rai explica cómo millones de personas se inician en la tecnología por primera vez a través de smartphones asequibles.
Una población digitalmente inexperta es mucho más susceptible a los contenidos engañosos.
Lo mismo puede decirse de las personas mayores, que, de nuevo, no están tan expuestas a las tonterías de los contenidos de Internet.
Pero incluso entre los que se consideran eficaces en la identificación de falsificaciones de IA, estudios revelan que euando sabemos que un medio es falso, puede afectar a nuestra memoria y a nuestra toma de decisiones.
Además de falsificaciones profundas diseñadas para pintar a personajes públicos de forma positiva, se han dado casos de falsificaciones políticas malintencionadas también son cada vez más comunes en la India.
Por ejemplo, en noviembre, el verificador de hechos Muralikrishnan Chinnadurai descubrió una transmisión en directo que pretendía mostrar a Duwaraka, la hija de un líder militante tamil fallecida hace tiempo, pronunciando un encendido discurso político.
Chinnadurai detectó fallos que revelaron que se trataba de un avatar generado por IA. "Se trata de un tema emotivo en el estado [Tamil Nadu] y con las elecciones a la vuelta de la esquina, la desinformación podría extenderse rápidamente". declaró a la BBC.
El mes pasado se hicieron virales unos vídeos falsos en los que las estrellas de Bollywood Ranveer Singh y Aamir Khan aparentemente apoyaban al partido de la oposición, el Congreso, lo que provocó denuncias policiales de los actores.
El 29 de abril, el propio Primer Ministro Modi advirtió de que se estaban utilizando falsificaciones profundas para adulterar los discursos de los líderes del partido gobernante.
Al día siguiente, dos trabajadores del partido de la oposición fueron detenidos por un vídeo falsificado del ministro del Interior, Amit Shah. El partido opositor Bharatiya Janata Party (BJP) se ha enfrentado a acusaciones similares de sus rivales.
Hasta ahora, el gobierno indio apenas ha supervisado y ha subcontratado la moderación de contenidos a las plataformas de las redes sociales. "La India no tiene ninguna regulación en lo que respecta a la IA", afirma Rai.
Recientemente, el gobierno ha empezado a exigir la aprobación previa antes de lanzar herramientas de IA "poco fiables" y ha advertido contra los resultados que puedan socavar las elecciones, pero faltan normas exhaustivas. Lo mismo puede decirse de gran parte del mundo.
Como advierte acertadamente el ex comisario electoral SY Qureshi, "los rumores siempre han formado parte de la campaña electoral. [Pero] en la era de las redes sociales, pueden propagarse como un reguero de pólvora... De hecho, pueden incendiar el país".
