Mens Sudan sliter med en bitter borgerkrig, fyrer en AI-drevet TikTok-kampanje som bruker AI, opp under ilden med feilinformasjon.
Ved å bruke kunstig intelligens til å etterligne stemmen til tidligere president Omar al-Bashir har denne kampanjen sådd tvil og forvirring i en nasjon som allerede er i turbulens.
Siden slutten av august har en anonym TikTok-bruker lastet opp det de kaller "lekkede opptak" av al-Bashir. Stemmen i disse opptakene er imidlertid høyst sannsynlig ikke autentisk.
Selv om rapporter fra tidligere i år tydet på at al-Bashir, som står overfor alvorlige anklager om krigsforbrytelser og ble fjernet fra makten i 2019, ble holdt fanget på et militærsykehus, har han forblitt på frifot.
Hans langvarige fravær fra offentlige anliggender, kombinert med disse mystiske opptakene, har forsterket usikkerheten som omgir Sudan.
Ekspertene understreker konsekvensene av slike villedende kampanjer, og legger vekt på den økende innflytelsen teknologien har på spredning av feilinformasjon.
Dypt falske opptak forstyrret også nylige slovakiske valget, og mange er bekymret for teknologiens innflytelse på de kommende valgene i USA og India neste år.
Hany Farid fra University of California, Berkeley, uttrykker bekymring: "Sofistikerte aktører har vært i stand til å forvrenge virkeligheten i flere tiår, men nå kan en vanlig person med liten eller ingen teknisk ekspertise raskt og enkelt skape falskt innhold."
The Voice of Sudan er sannsynligvis en dyp AI-falsk
Når man dykker dypere ned i TikTok-kanalen, ser "The Voice of Sudan" ut til å være en blanding av ulike innholdskilder - eldre pressekonferanser, nyhetssnutter og de omdiskuterte "lekkede opptakene" som tilskrives al-Bashir.
Mange av disse klippene bærer preg av den kornete strukturen man kan forvente fra samtaler som er tatt opp i hemmelighet, noe som bidrar til å forkludre sannheten ytterligere.
BBCs undersøkelsesteam, i samarbeid med sudanske eksperter, fordypet seg i autentisiteten av disse opptakene. De første funnene tyder på at selv om stemmen har en slående likhet med al-Bashirs, er muligheten for at det virkelig er ham liten.
Mye tyder på at det heller mot å bruke AI-programvare for stemmetransformasjon, som kan forvandle en hvilken som helst stemme til en annen.
Senere undersøkelser har også knyttet noen av disse opptakene til tidligere sendinger fra en kjent sudansk politisk kommentator med base i USA.
"The Voice of Sudans" rolle og intensjoner er fortsatt uklare. Kanalen kan forsøke å insinuere al-Bashirs involvering i pågående saker, men den kan også ha en bestemt politisk agenda ved å utgi seg for å være hans stemme. Kanalens egentlige motivasjoner er imidlertid fortsatt innhyllet i mystikk.
Etter en grundig undersøkelse og en erkjennelse av den potensielle skaden slikt innhold kan medføre, tok TikTok avgjørende grep.
Plattformen fjernet "The Voice of Sudan" for brudd på retningslinjene for fellesskapet, noe som indikerer en proaktiv holdning til å takle de dype forfalskningene som det begynner å bli vanskelig å unngå på sosiale medieplattformer.
