Imran Khan, Pakistans tidligere premierminister, som nu sidder i fængsel for at have lækket statshemmeligheder, brugte AI til at holde en tale ved et virtuelt møde.
Khans tale, der varede fire minutter, blev konstrueret ved hjælp af en AI-genereret stemme, der nøje efterlignede hans egen.
Denne lyd blev integreret i en video, der viste hans AI-skabte avatar, blandet med billeder fra tidligere Pakistan Tehreek-e-Insaaf (PTI)-møder (Khans politiske parti) og tidligere taler.
AI-stemmen, der havde en ansvarsfraskrivelse om, at den var baseret på Khans noter fra fængslet, formidlede et budskab om modstandskraft og trods mod de aktuelle politiske begrænsninger, som PTI står over for.
Der stod: "Vores parti har ikke lov til at holde offentlige møder. Vores folk bliver kidnappet, og deres familier bliver chikaneret," og tilføjede: "Historien vil huske jeres ofre."
Det henviser til den intense indsats mod PTI, hvor mange partiledere er blevet arresteret eller tvunget ud af organisationen.
Khan er fortsat fængslet efter at være blevet anklaget for at have lækket statshemmeligheder, hvilket han benægter på det kraftigste. Khan hævder, at disse beskyldninger er en del af regeringens og militærets strategi for at udelukke ham og hans parti fra det kommende valg i februar.
Den virtuelle demonstration, som var arrangeret af PTI, fik efter sigende over fem millioner visninger på forskellige sociale medieplatforme, herunder YouTube, Facebook og Twitter. Dette sker få dage efter rapporter fra Bangladesh citeret AI falske nyheder spredte sig på de sociale medier forud for deres valg i dag.
Deep fakes har generelt vist sig at være en kritisk trussel mod AI i år, med adskillige tilfælde af AI-genererede falske medier, der spreder bedragerisk indhold eller kontroversielle billeder, politisk bagvaskelse og misinformation på internettet. Krigen mellem Israel og Palæstina.
I et andet tilfælde så man politisk motiverede AI-genererede falske klip af den tidligere sudanske præsident Omar al-Bash. delt på TikTok.
Internetudfald begrænsede demonstrationen
Det store engagement i demonstrationen skete på trods af rapporter om internetnedbrud i forskellige dele af landet, som mange mente var arrangeret for at forhindre online-eventen.
NetBlocks, et firma, der sporer internettet, bekræftede disse afbrydelser. Deres erklæring lød: "Målinger viser, at store sociale medieplatforme var begrænset i Pakistan i [næsten] 7 timer søndag aften under et politisk online-møde; hændelsen er i overensstemmelse med tidligere tilfælde af internetcensur rettet mod oppositionsleder Imran Khan og hans parti PTI."
ℹ️ ICYMI: Målinger viser, at store sociale medieplatforme blev begrænset i #Pakistan i ca. 7 timer søndag aften under et politisk online-møde; hændelsen er i overensstemmelse med tidligere tilfælde af internetcensur rettet mod oppositionsleder Imran Khan og hans parti PTI https://t.co/AS9SdfwqoH pic.twitter.com/XXMYBhknXd
- NetBlocks (@netblocks) 18. december 2023
Som svar benægtede Pakistans telekommunikationsmyndighed enhver sådan internetforstyrrelse og opfordrede medierne til at være forsigtige med at sprede ubekræftede nyheder.
Brugen af AI i denne sammenhæng har givet anledning til både ros og bekymring.
Usama Khilji, der er fortaler for ytringsfrihed i Pakistan, roste PTI's opfindsomme metode til at omgå forbuddet mod offentlige møder. Al Jazeera"Med en fuldstændig nedbrydning af PTI's ret til forenings- og ytringsfrihed via anholdelser af ledere, markerer partiets brug af kunstig intelligens til at udsende en virtuel tale med ordene fra dets fængslede formand og tidligere premierminister Imran Khan et nyt punkt i brugen af teknologi i pakistansk politik."
Han udtrykte dog bekymring for de potentielle negative konsekvenser af AI på den politiske arena og advarede om risikoen for, at det kan bruges til at sprede misinformation og manipulere valgresultater.
Khiljis udtalelse understreger den dobbeltsidede karakter af denne form for politisk kommunikation, som er en verdensnyhed, og fremhæver dens farer og potentiale for at opretholde ytringsfriheden.
