Imran Khan, Pakistans tidligere statsminister som nå sitter i fengsel for å ha lekket statshemmeligheter, brukte kunstig intelligens til å holde en tale på et virtuelt møte.
Khans tale, som varte i fire minutter, var konstruert ved hjelp av en AI-generert stemme som imiterte hans egen.
Denne lyden ble integrert i en video som viste hans AI-skapte avatar, ispedd bilder fra tidligere Pakistan Tehreek-e-Insaaf (PTI) - Khans politiske parti - og tidligere taler.
AI-stemmen, som hadde en ansvarsfraskrivelse om at den var basert på Khans notater fra fengselet, formidlet et budskap om motstandskraft og trass mot de nåværende politiske begrensningene som PTI står overfor.
"Partiet vårt får ikke lov til å holde offentlige møter. Våre folk blir kidnappet, og familiene deres blir trakassert", og la til: "Historien vil huske deres ofre."
Dette er en henvisning til den intense aksjonen mot PTI, som har ført til at en rekke partiledere har blitt arrestert eller tvunget ut av organisasjonen.
Khan sitter fortsatt fengslet etter å ha blitt tiltalt for å ha lekket statshemmeligheter, noe han benekter på det sterkeste. Khan hevder at disse anklagene er en del av en strategi fra regjeringen og militæret for å utelukke ham og partiet hans fra det kommende valget i februar.
Den virtuelle demonstrasjonen, som ble organisert av PTI, skal ha fått over fem millioner visninger på ulike sosiale medier, deriblant YouTube, Facebook og Twitter. Dette kommer dager etter rapporter fra Bangladesh siterte AI falske nyheter spredte seg på sosiale medier i forkant av valget i dag.
Deep fakes har generelt sett vokst frem som en kritisk trussel fra kunstig intelligens i år, med en rekke tilfeller av AI-genererte falske medier som sprer uredelig innhold eller kontroversielle bilder, politisk smuss og feilinformasjon på nettet. Israel-Palestina-krigen.
I et annet tilfelle ble det laget politisk motiverte AI-genererte falske klipp av den tidligere sudanske presidenten Omar al-Bash delt på TikTok.
Internettbrudd begrenset demonstrasjonen
Det store engasjementet i demonstrasjonen skjedde til tross for rapporter om strømbrudd i ulike deler av landet, som mange mente var iscenesatt for å hindre nettarrangementet.
NetBlocks, et selskap som sporer internett, bekreftet disse strømbruddene. I en uttalelse fra selskapet heter det: "Målingene viser at de største sosiale medieplattformene i Pakistan var begrenset i [nesten] 7 timer søndag kveld under en politisk samling på nettet; hendelsen er i tråd med tidligere tilfeller av internettsensur rettet mot opposisjonsleder Imran Khan og hans parti PTI."
ℹ️ ICYMI: Beregninger viser at de største sosiale medieplattformene ble begrenset i #Pakistan i ca. 7 timer søndag kveld under et politisk møte på nettet; hendelsen er i tråd med tidligere tilfeller av internettsensur rettet mot opposisjonsleder Imran Khan og hans parti PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18. desember 2023
Pakistans telekommunikasjonsmyndighet avviste at det hadde forekommet slike forstyrrelser på internett, og oppfordret mediene til å være forsiktige med å spre ubekreftede nyheter.
Bruken av kunstig intelligens i denne sammenhengen har høstet både lovord og bekymring.
Usama Khilji, en talsmann for ytringsfrihet i Pakistan, roste PTIs oppfinnsomme metode for å omgå forbudet mot offentlige møter, og sa Al Jazeera"Med full inngripen i PTIs rett til organisasjons- og ytringsfrihet gjennom arrestasjoner av ledere, markerer partiets bruk av kunstig intelligens til å kringkaste en virtuell tale med ordene til den fengslede lederen og tidligere statsministeren Imran Khan et nytt punkt i bruken av teknologi i pakistansk politikk."
Han uttrykte imidlertid bekymring for de potensielle negative konsekvensene av kunstig intelligens på den politiske arenaen, og advarte mot risikoen for at den kan brukes til å spre desinformasjon og manipulere valgresultater.
Khiljis uttalelse understreker det tosidige ved denne formen for politisk kommunikasjon, en verdensnyhet som understreker dens farer og potensial for å opprettholde ytringsfriheten.
