Mens Sudan kæmper med en bitter borgerkrig, puster en AI-drevet TikTok-kampagne, der bruger AI, til ilden med misinformation.
Ved at bruge AI til at efterligne den tidligere præsident Omar al-Bashirs stemme har denne kampagne sået tvivl og forvirring i en nation, der allerede er i turbulens.
Siden slutningen af august har en anonym TikTok-bruger uploadet, hvad de kalder "lækkede optagelser" af al-Bashir. Men stemmen på disse optagelser er højst sandsynligt uægte.
Selv om rapporter fra tidligere på året indikerede, at Al-Bashir, der står over for alvorlige anklager om krigsforbrydelser og blev fjernet fra magten i 2019, blev holdt fanget på et militærhospital, er han forblevet uopnåelig.
Hans langvarige fravær fra offentlige anliggender kombineret med disse mystiske optagelser har uddybet den usikkerhed, der omgiver Sudan.
Eksperter fremhæver konsekvenserne af sådanne vildledende kampagner og understreger teknologiens voksende indflydelse på spredning af misinformation.
Dybe falske optagelser forstyrrede også Det seneste slovakiske valgog mange er bekymrede for teknologiens indflydelse på de kommende valg i USA og Indien næste år.
Hany Farid fra University of California, Berkeley, udtrykker bekymring: "Sofistikerede aktører har været i stand til at fordreje virkeligheden i årtier, men nu kan den gennemsnitlige person med lidt eller ingen teknisk ekspertise hurtigt og nemt skabe falsk indhold."
The Voice of Sudan er sandsynligvis en AI deep fake
Dykker man dybere ned i TikTok-kanalen, ser "The Voice of Sudan" ud til at være en blanding af forskellige indholdskilder - ældre pressekonferencer, nyhedsuddrag og de omdiskuterede "lækkede optagelser", der tilskrives al-Bashir.
Mange af disse klip har den karakteristiske kornethed, som man ville forvente af hemmeligt optagede samtaler, hvilket yderligere forplumrer sandheden.
BBC's efterforskningshold i samarbejde med sudanesiske eksperter, dykkede ned i autenticiteten af disse optagelser. De første resultater tyder på, at selv om stemmen har en slående lighed med al-Bashirs, er muligheden for, at det virkelig er ham, lille.
Beviserne peger mere i retning af at bruge AI-stemmetransformationssoftware, der er i stand til at forvandle enhver stemme til en anden.
Efterfølgende undersøgelser forbandt også nogle af disse optagelser med tidligere udsendelser fra en velkendt sudanesisk politisk kommentator med base i USA.
"The Voice of Sudans" rolle og intentioner er stadig uklare. Kanalen forsøger måske at insinuere, at al-Bashir er involveret i igangværende sager, men den kan også have en bestemt politisk dagsorden ved at udgive sig for at være hans stemme. Kanalens egentlige motiver er dog stadig omgærdet af mystik.
Efter en grundig undersøgelse og i erkendelse af den potentielle skade ved sådant indhold tog TikTok afgørende skridt.
Platformen fjernede "The Voice of Sudan" for at overtræde fællesskabets retningslinjer, hvilket indikerer en proaktiv holdning til at tackle de dybe forfalskninger, der er ved at blive svære at undgå på sociale medieplatforme.
