Imran Khan, de voormalige premier van Pakistan die nu in de gevangenis zit voor het lekken van staatsgeheimen, gebruikte AI om een toespraak te houden op een virtuele bijeenkomst.
Khan's toespraak, die vier minuten duurde, werd gemaakt met behulp van een AI-stem die zijn eigen stem nabootste.
Deze audio werd geïntegreerd in een video waarin zijn door AI gecreëerde avatar werd getoond, afgewisseld met beelden van eerdere bijeenkomsten van Pakistan Tehreek-e-Insaaf (PTI) (de politieke partij van Khan) en eerdere toespraken.
De AI-stem, met een disclaimer dat het gebaseerd was op Khan's aantekeningen uit de gevangenis, bracht een boodschap van veerkracht en verzet tegen de huidige politieke beperkingen waarmee de PTI te maken heeft.
Er stond: "Onze partij mag geen openbare bijeenkomsten houden. Onze mensen worden ontvoerd en hun families worden lastiggevallen," en voegde eraan toe: "De geschiedenis zal zich jullie opofferingen herinneren."
Dit verwijst naar het harde optreden tegen de PTI, waarbij talloze partijleiders zijn gearresteerd of uit de organisatie zijn gezet.
Khan blijft opgesloten na zijn aanklacht wegens het lekken van staatsgeheimen, beschuldigingen die hij ten stelligste ontkent. Khan beweert dat deze beschuldigingen deel uitmaken van een strategie van de regering en het leger om hem en zijn partij uit te sluiten van de komende verkiezingen in februari.
De virtuele rally, georganiseerd door de PTI, heeft naar verluidt meer dan vijf miljoen views geoogst op verschillende social media platforms, waaronder YouTube, Facebook en Twitter. Dit komt dagen na berichten uit Bangladesh aangehaald AI-nepnieuws werd verspreid op sociale media in de aanloop naar hun verkiezing vandaag.
Deep fakes, in het algemeen, zijn dit jaar naar voren gekomen als een kritieke bedreiging van AI, met talloze gevallen van door AI gegenereerde nepmedia die frauduleuze inhoud of controversiële beelden, politieke laster en verkeerde informatie verspreiden op het internet. Oorlog tussen Israël en Palestina.
In een ander geval genereerde AI politiek gemotiveerde nepfilmpjes van de ex-president van Soedan, Omar al-Bash. gedeeld op TikTok.
Internetstoringen beperkten de rally
De grote betrokkenheid bij de rally vond plaats ondanks meldingen van internetstoringen in verschillende delen van het land, waarvan velen dachten dat deze waren georkestreerd om het online evenement te hinderen.
NetBlocks, een bedrijf dat internet volgt, bevestigde deze uitval. Hun verklaring luidde: "Metrics tonen aan dat belangrijke sociale mediaplatforms zondagavond [bijna] 7 uur lang werden beperkt in Pakistan tijdens een online politieke bijeenkomst; het incident komt overeen met eerdere gevallen van internetcensuur gericht tegen oppositieleider Imran Khan en zijn partij PTI."
ℹ️ ICYMI: statistieken tonen aan dat grote sociale mediaplatforms beperkt waren in #Pakistan voor ~7 uur op zondagavond tijdens een online politieke bijeenkomst; het incident komt overeen met eerdere gevallen van internetcensuur gericht tegen oppositieleider Imran Khan en zijn partij PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18 december 2023
In een reactie ontkende de Pakistaanse Telecommunicatie Autoriteit een dergelijke internetstoring en riep op tot voorzichtigheid bij het verspreiden van niet-geverifieerd nieuws.
Het gebruik van AI in deze context heeft zowel lof als alarm geoogst.
Usama Khilji, een voorvechter van vrijheid van meningsuiting in Pakistan, prees de inventieve methode van PTI om het verbod op openbare bijeenkomsten te omzeilen, vertelde Al Jazeera"Nu het recht van de PTI op vrijheid van vereniging en meningsuiting volledig wordt beknot door arrestaties van leiders, is het gebruik van kunstmatige intelligentie door de partij om een virtuele toespraak uit te zenden in de woorden van haar opgesloten voorzitter en voormalig premier Imran Khan een nieuw punt in het gebruik van technologie in de Pakistaanse politiek."
Hij uitte echter zijn bezorgdheid over de mogelijke negatieve gevolgen van AI in de politieke arena en waarschuwde voor de risico's van het gebruik van AI bij het verspreiden van desinformatie en het manipuleren van verkiezingsuitslagen.
Khilji's verklaring onderstreept de tweesnijdende aard van deze vorm van politieke communicatie, een wereldprimeur, en benadrukt de gevaren en mogelijkheden ervan voor het handhaven van de vrijheid van meningsuiting.
