Imran Khan, ex primer ministro de Pakistán ahora en prisión por filtrar secretos de Estado, utilizó la IA para pronunciar un discurso en un mitin virtual.
El discurso de Khan, de cuatro minutos de duración, se construyó con una voz generada por inteligencia artificial que imitaba fielmente la suya.
Este audio se integró en un vídeo que mostraba su avatar creado por IA, intercalado con imágenes de mítines anteriores del Pakistan Tehreek-e-Insaaf (PTI) (el partido político de Khan) y discursos anteriores.
La voz de AI, que llevaba un descargo de responsabilidad por estar basada en las notas de Khan desde la cárcel, transmitía un mensaje de resistencia y desafío frente a las actuales limitaciones políticas a las que se enfrenta el PTI.
Decía: "A nuestro partido no se le permite celebrar mítines públicos. Secuestran a los nuestros y acosan a sus familias", y añadía: "La historia recordará vuestros sacrificios".
Se refiere a la intensa represión del PTI, que ha visto cómo numerosos dirigentes del partido eran detenidos o expulsados de la organización.
Khan sigue encarcelado tras su procesamiento por presunta filtración de secretos de Estado, cargos que niega vehementemente. Khan afirma que estas acusaciones forman parte de una estrategia del gobierno y el ejército para excluirle a él y a su partido de las próximas elecciones de febrero.
El mitin virtual, organizado por el PTI, obtuvo al parecer más de cinco millones de visitas en varias plataformas de redes sociales, como YouTube, Facebook y Twitter. Esto ocurre días después de que en Bangladesh AI fake news se difundió en las redes sociales antes de su elección de hoy.
Las falsificaciones profundas, en general, han surgido como una amenaza crítica de la IA este año, con numerosos casos de medios de comunicación falsos generados por IA que difunden contenidos fraudulentos o imágenes controvertidas, difamaciones políticas y desinformación sobre la Guerra entre Israel y Palestina.
En otro caso, la IA generó clips falsos del ex presidente sudanés Omar al-Bash por motivos políticos. compartido en TikTok.
Los cortes de Internet limitaron la manifestación
La alta participación en la manifestación se produjo a pesar de los informes sobre cortes de Internet en distintas partes del país, que muchos creyeron orquestados para obstaculizar el acto en línea.
NetBlocks, una empresa de rastreo de Internet, confirmó estos cortes. Su declaración decía: "Las métricas muestran que las principales plataformas de medios sociales estuvieron restringidas en Pakistán durante [casi] 7 horas el domingo por la noche durante una reunión política en línea; el incidente es coherente con casos anteriores de censura de Internet dirigidos contra el líder de la oposición Imran Khan y su partido PTI".
ℹ️ ICYMI: Las métricas muestran que las principales plataformas de medios sociales fueron restringidas en #Pakistán durante unas 7 horas el domingo por la noche durante una reunión política en línea; el incidente es coherente con casos anteriores de censura en Internet contra el líder de la oposición Imran Khan y su partido PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18 de diciembre de 2023
En respuesta, la Autoridad de Telecomunicaciones de Pakistán negó que hubiera tal interrupción de Internet y pidió prudencia a los medios de comunicación a la hora de difundir noticias no verificadas.
El uso de la IA en este contexto ha suscitado tanto elogios como alarmas.
Usama Khilji, defensor de la libertad de expresión en Pakistán, alabó el ingenioso método del PTI para eludir la prohibición de celebrar mítines públicos, y declaró lo siguiente Al JazeeraCon una represión total del derecho a la libertad de asociación y de expresión del PTI mediante detenciones de sus dirigentes, el uso por el partido de la inteligencia artificial para emitir un discurso virtual con las palabras de su presidente encarcelado y ex primer ministro Imran Khan marca un nuevo punto en el uso de la tecnología en la política pakistaní".
Sin embargo, expresó su preocupación por las posibles implicaciones negativas de la IA en el ámbito político, advirtiendo de los riesgos de su uso para difundir desinformación y manipular los resultados electorales.
La declaración de Khilji subraya el doble filo de esta forma de comunicación política, pionera en el mundo, y pone de relieve sus peligros y su potencial para defender la libertad de expresión.
