Imran Khan, l'ancien Premier ministre pakistanais aujourd'hui emprisonné pour avoir divulgué des secrets d'État, a utilisé l'IA pour prononcer un discours lors d'un rassemblement virtuel.
Le discours de Khan, d'une durée de quatre minutes, a été construit à l'aide d'une voix générée par l'IA, imitant fidèlement la sienne.
Ce son a été intégré à une vidéo présentant son avatar créé par l'IA, entrecoupée d'images de rassemblements passés du Pakistan Tehreek-e-Insaaf (PTI) (le parti politique de M. Khan) et de discours antérieurs.
La voix d'AI, accompagnée d'une clause de non-responsabilité indiquant qu'elle était basée sur les notes de Khan en prison, a transmis un message de résilience et de défi face aux contraintes politiques actuelles auxquelles le PTI est confronté.
Le texte disait : "Notre parti n'est pas autorisé à tenir des rassemblements publics. Nos membres sont enlevés et leurs familles sont harcelées", avant d'ajouter : "L'histoire se souviendra de vos sacrifices."
Cela fait référence à la répression intense exercée sur le PTI, qui a vu de nombreux dirigeants du parti arrêtés ou contraints de quitter l'organisation.
Khan est toujours incarcéré suite à son inculpation pour fuite de secrets d'État, accusations qu'il nie avec véhémence. Khan affirme que ces accusations font partie d'une stratégie du gouvernement et de l'armée visant à l'exclure, lui et son parti, des prochaines élections de février.
Le rassemblement virtuel, organisé par le PTI, aurait recueilli plus de cinq millions de vues sur diverses plateformes de médias sociaux, notamment YouTube, Facebook et Twitter. Cela intervient quelques jours après que des informations en provenance du Bangladesh cité AI fake news s'est répandue sur les médias sociaux avant leur élection aujourd'hui.
Les "deep fakes", en général, ont émergé comme une menace critique de l'IA cette année, avec de nombreux cas de faux médias générés par l'IA diffusant des contenus frauduleux ou des images controversées, des calomnies politiques et de la désinformation sur le web. Guerre israélo-palestinienne.
Dans un autre cas, l'IA a généré de faux clips de l'ancien président du Soudan, Omar al-Bash, pour des raisons politiques. partagé sur TikTok.
Des pannes d'Internet ont limité le rassemblement
La forte participation au rassemblement s'est produite en dépit de rapports faisant état de pannes d'Internet dans différentes parties du pays, dont beaucoup pensent qu'elles ont été orchestrées pour entraver l'événement en ligne.
NetBlocks, une société spécialisée dans le suivi de l'internet, a confirmé ces interruptions. La déclaration de NetBlocks est la suivante : "Les mesures montrent que les principales plateformes de médias sociaux ont été restreintes au Pakistan pendant [près de] 7 heures dimanche soir lors d'un rassemblement politique en ligne ; l'incident est cohérent avec les précédents cas de censure de l'internet visant le chef de l'opposition Imran Khan et son parti, le PTI".
ℹ️ ICYMI : Les mesures montrent que les principales plateformes de médias sociaux ont été restreintes en #Pakistan pendant environ 7 heures dimanche soir lors d'un rassemblement politique en ligne ; l'incident est cohérent avec les précédents cas de censure de l'internet visant le leader de l'opposition Imran Khan et son parti, le PTI. https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18 décembre 2023
En réponse, l'autorité pakistanaise des télécommunications a nié toute perturbation de l'internet et a appelé les médias à la prudence dans la diffusion d'informations non vérifiées.
L'utilisation de l'IA dans ce contexte a suscité à la fois des louanges et des inquiétudes.
Usama Khilji, défenseur de la liberté d'expression au Pakistan, a salué la méthode inventive utilisée par le PTI pour contourner l'interdiction des rassemblements publics. Al JazeeraAlors que le droit à la liberté d'association et d'expression du PTI est totalement bafoué par l'arrestation de ses dirigeants, l'utilisation par le parti de l'intelligence artificielle pour diffuser un discours virtuel reprenant les mots de son président incarcéré et ancien Premier ministre Imran Khan marque un nouveau tournant dans l'utilisation de la technologie dans la vie politique pakistanaise".
Il a toutefois fait part de ses inquiétudes quant aux implications négatives potentielles de l'IA dans l'arène politique, mettant en garde contre les risques de son utilisation pour diffuser de la désinformation et manipuler les résultats des élections.
La déclaration de Khilji souligne la nature à double tranchant de cette forme de communication politique, une première mondiale, et met en évidence ses dangers et son potentiel pour la défense de la liberté d'expression.
