Die indischen Parlamentswahlen 2024, die mit über 960 Millionen Wahlberechtigten die größte demokratische Veranstaltung der Welt sind, werden durch den Aufstieg von KI-Intelligenz und hyperrealistischen Deep-Fake-Inhalten verändert.
Eine neue Generation technikaffiner politischer Akteure nutzt die KI, um synthetische Medien mit politischen und kommerziellen Absichten zu schaffen.
Eine der prominentesten Persönlichkeiten in der aufstrebenden indischen "Deep-Fake-Industrie" ist Divyendra Singh Jadoun, ein 31-jähriger selbsternannter "indischer Deep-Faker", der sich schnell zu einem beliebten Dienstleister für politische Kampagnen entwickelt hat.
Was als Solounternehmen für Bollywood-Parodien begann, hat sich zu einem vollwertigen Studio für synthetische Medien entwickelt.
"Er hat sich inzwischen vergrößert, weil so viel Arbeit auf ihn zukommt", sagt der Reporter aus Bangalore. Saritha Rai berichtet Bloomberg.
"Als ich das erste Mal mit ihm sprach, sagte er, er habe ein paar Arbeiter, und das war vor ein paar Monaten. Dann erzählte er mir, dass er fünf weitere Angestellte hat, die ihm bei der Produktion dieser Videos helfen."
Mithilfe von KI-Modellen, die anhand von stundenlangem authentischem Filmmaterial trainiert wurden, erstellen Jadoun und sein Team unheimlich realistische Videos von Politikern wie Premierminister Narendra Modi, die die Wähler mit Namen ansprechen.
"Der Grad der Hyper-Personalisierung, der mit generativer KI möglich ist... Man kann das Modell einfach darauf trainieren, die Hauptbotschaft zu sagen und es dann mit Tausenden von Namen füttern. Und es wird sofort dasselbe Video reproduzieren und es perfekt mit Narendra Modi synchronisieren, der jede Person mit Namen anspricht", erklärt Rai.
KI-Wahlkampagnen imitieren die Intimität persönlicher Interaktionen in nahezu unbegrenztem Umfang und zu erschwinglichen Kosten.
Rai merkt weiter an: "Ein großer Teil der Wahlwerbung wird auf die Wähler zugeschnitten sein... ein großer Teil wird sie über ihre Telefone erreichen. Und vieles davon wird von KI generiertes Material sein".
Vor den Wahlen gibt es in Indien viele Fälschungen
Rai erklärt, dass Millionen von Menschen in Indien durch erschwingliche Smartphones zum ersten Mal mit Technologie in Berührung kommen, was das Problem noch verschärft.
Eine digital unerfahrene Bevölkerung ist weitaus anfälliger für betrügerische Inhalte.
Das Gleiche gilt auch für ältere Menschen, die wiederum nicht so sehr mit der Dummheit der Internetinhalte konfrontiert sind.
Aber selbst unter denjenigen, die sich selbst als effektiv bei der Erkennung von KI-Fälschungen einschätzen, Studien zeigen dass euch wenn wir wissen, dass Medien gefälscht sind, können sie unser Gedächtnis und unsere Entscheidungsfindung beeinflussen.
Neben tiefgreifenden Fälschungen, die darauf abzielen, Personen des öffentlichen Lebens in ein positives Licht zu rücken, gibt es auch Fälle, in denen böswillige politische Fälschungen sind auch in Indien immer häufiger anzutreffen.
So entdeckte der Faktenprüfer Muralikrishnan Chinnadurai im November einen Livestream, der angeblich Duwaraka, die längst verstorbene Tochter eines militanten tamilischen Führers, bei einer feurigen politischen Rede zeigte.
Chinnadurai entdeckte Pannen und stellte fest, dass es sich um einen von einer künstlichen Intelligenz erzeugten Avatar handelte. "Dies ist ein emotionales Thema in diesem Bundesstaat [Tamil Nadu], und da die Wahlen vor der Tür stehen, könnten sich Fehlinformationen schnell verbreiten". sagte er der BBC.
Im vergangenen Monat gingen gefälschte Videos der Bollywood-Stars Ranveer Singh und Aamir Khan, die scheinbar die oppositionelle Kongresspartei unterstützten, im Internet umher, woraufhin die Schauspieler sich bei der Polizei beschwerten.
Am 29. April warnte Premierminister Modi selbst vor tiefgreifenden Fälschungen, mit denen Reden von Parteiführern gefälscht werden.
Am nächsten Tag wurden zwei Mitarbeiter der Oppositionspartei wegen eines gefälschten Videos von Innenminister Amit Shah verhaftet. Die gegnerische Bharatiya Janata Party (BJP) sah sich mit ähnlichen Anschuldigungen von Rivalen konfrontiert.
Bislang hat die indische Regierung nur wenig Kontrolle ausgeübt und die Moderation von Inhalten weitgehend an Social-Media-Plattformen ausgelagert. "In Indien gibt es überhaupt keine Regulierung, wenn es um KI geht", sagt Rai.
Die Regierung hat vor kurzem damit begonnen, vor der Einführung "unzuverlässiger" KI-Tools eine vorherige Genehmigung zu verlangen, und vor Ergebnissen gewarnt, die Wahlen untergraben könnten, aber es fehlen umfassende Vorschriften. Das Gleiche gilt für einen Großteil der Welt.
Der ehemalige Wahlkommissar SY Qureshi warnt treffend: "Gerüchte waren schon immer ein Teil des Wahlkampfes. [Aber im Zeitalter der sozialen Medien können sie sich wie ein Lauffeuer verbreiten... Sie können das Land tatsächlich in Brand setzen."
