Terwijl Soedan worstelt met een bittere burgeroorlog, wakkert een TikTok-campagne met AI het vuur aan met verkeerde informatie.
Door AI te gebruiken om de stem van voormalig president Omar al-Bashir na te bootsen, heeft deze campagne twijfel en verwarring gezaaid in een land dat al in beroering is.
Sinds eind augustus heeft een anonieme TikTok-gebruiker wat zij noemen "gelekte opnames" van al-Bashir geüpload. De stem in deze opnames is echter hoogstwaarschijnlijk niet authentiek.
Hoewel berichten eerder dit jaar erop wezen dat Al-Bashir, die wordt beschuldigd van oorlogsmisdaden en in 2019 uit de macht zou zijn gezet, werd vastgehouden in een militair hospitaal, bleef hij ongrijpbaar.
Zijn langdurige afwezigheid in het openbaar, in combinatie met deze mysterieuze opnames, heeft de onzekerheid in Soedan alleen maar vergroot.
Deskundigen benadrukken de implicaties van dergelijke misleidende campagnes en wijzen op de groeiende invloed van technologie bij het verspreiden van verkeerde informatie.
Diepe valse opnames verstoorden ook de recente Slowaakse verkiezingenen velen maken zich zorgen over de invloed van de technologie op de komende verkiezingen in de VS en India volgend jaar.
Hany Farid van de Universiteit van Californië, Berkeley, uit zijn bezorgdheid: "Geavanceerde acteurs zijn al tientallen jaren in staat om de werkelijkheid te vervormen, maar nu kan de gemiddelde persoon met weinig tot geen technische expertise snel en gemakkelijk nepcontent creëren."
De Stem van Soedan is waarschijnlijk een AI-achtige vervalsing
Als we dieper in het TikTok-kanaal duiken, blijkt "The Voice of Sudan" een mix te zijn van verschillende inhoudsbronnen - oudere persconferenties, nieuwsfragmenten en de besproken "gelekte opnames" die aan al-Bashir worden toegeschreven.
Veel van deze clips hebben de kenmerkende korreligheid die je zou verwachten van heimelijk opgenomen gesprekken, waardoor de waarheid nog meer vertroebeld wordt.
BBC's onderzoeksteam, in samenwerking met Soedanese experts, verdiepte zich in de authenticiteit van deze opnames. De eerste bevindingen suggereren dat, hoewel de stem een opvallende gelijkenis vertoont met die van al-Bashir, de kans klein is dat hij het echt is.
Het bewijs neigt meer naar het gebruik van AI-spraakvervormingssoftware, die elke stem in een andere kan veranderen.
Latere onderzoeken legden ook verbanden tussen sommige van deze opnames en eerdere uitzendingen van een bekende Soedanese politieke commentator die in de VS woont.
De rol en bedoelingen van "The Voice of Sudan" blijven onduidelijk. De zender wil misschien insinueren dat al-Bashir betrokken is bij lopende zaken, maar zou ook een specifieke politieke agenda kunnen nastreven door zijn stem te imiteren. De echte beweegredenen van de zender blijven echter in nevelen gehuld.
Na een grondig onderzoek en het erkennen van de potentiële schade van dergelijke inhoud, heeft TikTok resoluut actie ondernomen.
Het platform heeft "The Voice of Sudan" verwijderd wegens het schenden van de communityrichtlijnen, wat duidt op een proactieve houding ten opzichte van het aanpakken van fakes die steeds moeilijker te vermijden zijn op sociale mediaplatforms.
