Imran Khan, Pakistans tidigare premiärminister som nu sitter fängslad för att ha läckt statshemligheter, använde AI för att hålla ett tal vid ett virtuellt möte.
Khans tal, som varade i fyra minuter, byggdes upp med hjälp av en AI-genererad röst som nära imiterade hans egen.
Detta ljud integrerades i en video som visade hans AI-skapade avatar, varvat med bilder från tidigare möten med Pakistan Tehreek-e-Insaaf (PTI) (Khans politiska parti) och tidigare tal.
AI-rösten, som innehöll en friskrivningsklausul om att den var baserad på Khans anteckningar från fängelset, förmedlade ett budskap om motståndskraft och trots mot de nuvarande politiska begränsningar som PTI står inför.
Det stod: "Vårt parti tillåts inte hålla offentliga möten. Vårt folk kidnappas och deras familjer trakasseras", och man tillade: "Historien kommer att minnas era uppoffringar".
Detta syftar på det intensiva tillslaget mot PTI, som har lett till att många partiledare har arresterats eller tvingats lämna organisationen.
Khan sitter fortfarande fängslad efter att ha åtalats misstänkt för att ha läckt statshemligheter, anklagelser som han bestämt förnekar. Khan hävdar att dessa anklagelser är en del av regeringens och militärens strategi för att utesluta honom och hans parti från det kommande valet i februari.
Det virtuella mötet, som organiserades av PTI, ska ha visats över fem miljoner gånger på olika sociala medier, däribland YouTube, Facebook och Twitter. Detta kommer dagar efter rapporter från Bangladesh citerad AI falska nyheter spreds på sociala medier inför deras val idag.
Deep fakes har i allmänhet framstått som ett kritiskt hot mot AI i år, med många fall av AI-genererade falska medier som sprider bedrägligt innehåll eller kontroversiella bilder, politisk smutskastning och felaktig information på Israel-Palestina-kriget.
I ett annat fall skapades politiskt motiverade AI-genererade falska klipp av den tidigare sudanesiske presidenten Omar al-Bash delad på TikTok.
Internetavbrott begränsade demonstrationen
Det stora engagemanget för demonstrationen skedde trots rapporter om internetavbrott i olika delar av landet, vilket många trodde var arrangerat för att hindra evenemanget online.
NetBlocks, ett företag som spårar internet, bekräftade dessa avbrott. Deras uttalande löd: "Mätvärden visar att stora sociala medieplattformar var begränsade i Pakistan i [nästan] 7 timmar på söndagskvällen under en politisk sammankomst online; händelsen överensstämmer med tidigare fall av internetcensur riktad mot oppositionsledaren Imran Khan och hans parti PTI."
ℹ️ ICYMI: Mätningar visar att stora sociala medieplattformar var begränsade i #Pakistan i ~7 timmar på söndagskvällen under en politisk sammankomst på nätet; händelsen är förenlig med tidigare fall av internetcensur riktad mot oppositionsledaren Imran Khan och hans parti PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18 december 2023
Pakistans telekommunikationsmyndighet förnekade alla sådana störningar på internet och uppmanade medierna att vara försiktiga med att sprida obekräftade nyheter.
Användningen av AI i detta sammanhang har väckt både lovord och oro.
Usama Khilji, en förespråkare för yttrandefrihet i Pakistan, berömde PTI:s uppfinningsrika metod för att kringgå förbudet mot offentliga möten. Al Jazeera"Med en fullständig inskränkning av PTI:s rätt till förenings- och yttrandefrihet genom arresteringar av ledare, markerar partiets användning av artificiell intelligens för att sända ett virtuellt tal med orden från dess fängslade ordförande och tidigare premiärminister Imran Khan en ny punkt i användningen av teknik i pakistansk politik."
Han uttryckte dock oro över de potentiella negativa konsekvenserna av AI på den politiska arenan och varnade för riskerna med att använda AI för att sprida desinformation och manipulera valresultat.
Khiljis uttalande understryker den dubbelbottnade karaktären hos denna form av politisk kommunikation, en världsnyhet som belyser dess faror och potential för att upprätthålla yttrandefriheten.
