Falskt ljud av Sudans tidigare president Omar al-Bashir visas på TikTok

5 oktober 2023

Sudan AI

I Sudan pågår ett bittert inbördeskrig och en AI-driven TikTok-kampanj med hjälp av AI eldar på elden med felaktig information.

Genom att använda AI för att härma den tidigare presidenten Omar al-Bashirs röst har kampanjen sått frön av tvivel och förvirring i en nation som redan befinner sig i turbulens.

Sedan slutet av augusti har en anonym TikTok-användare laddat upp vad de kallar "läckta inspelningar" av al-Bashir. Rösten i dessa inspelningar är dock med stor sannolikhet inte autentisk. 

Även om rapporter från tidigare i år tydde på att Al-Bashir, som står inför allvarliga anklagelser om krigsförbrytelser och som avsattes från makten 2019, hölls på ett militärsjukhus, har han förblivit gömd.

Hans långvariga frånvaro från offentliga angelägenheter, i kombination med dessa mystiska inspelningar, har fördjupat den osäkerhet som omger Sudan. 

För att belysa konsekvenserna av sådana vilseledande kampanjer betonar experter teknikens växande inflytande när det gäller att sprida felaktig information.

Djupa falska inspelningar störde också senaste slovakiska valetoch många är oroade över teknikens påverkan på kommande val i USA och Indien nästa år. 

Hany Farid från University of California, Berkeley, uttrycker oro: "Sofistikerade aktörer har kunnat förvränga verkligheten i årtionden, men nu kan den genomsnittliga personen med liten eller ingen teknisk expertis snabbt och enkelt skapa falskt innehåll."

Sudans röst är sannolikt en AI-djup fejk

När man dyker djupare in i TikTok-kanalen verkar "The Voice of Sudan" vara en blandning av olika innehållskällor - äldre presskonferenser, nyhetssnuttar och de omdiskuterade "läckta inspelningarna" som tillskrivs al-Bashir. 

Många av dessa klipp har den typiska kornigheten som man kan förvänta sig av hemligt inspelade samtal, vilket ytterligare förvirrar sanningen.

BBC:s undersökande team, i samarbete med sudanesiska experter, fördjupat sig i äktheten av dessa inspelningar. De första resultaten tyder på att även om rösten har en slående likhet med al-Bashirs, är möjligheten att det verkligen är han liten. 

Bevisen lutar mer åt att använda AI-programvara för röstomvandling, som kan omvandla vilken röst som helst till en annan.

Senare undersökningar kopplade också några av dessa inspelningar till tidigare sändningar från en välkänd sudanesisk politisk kommentator baserad i USA.

Rollen och avsikterna med "The Voice of Sudan" är fortfarande oklara. Samtidigt som kanalen kan försöka insinuera al-Bashirs inblandning i pågående affärer, kan den också driva en specifik politisk agenda genom att imitera hans röst. Kanalens verkliga motiv är dock fortfarande höljda i dunkel.

Efter en grundlig undersökning och insikt om den potentiella skadan av sådant innehåll vidtog TikTok beslutsamma åtgärder. 

Plattformen tog bort "The Voice of Sudan" för att ha brutit mot gemenskapens riktlinjer, vilket indikerar en proaktiv inställning till att ta itu med de djupa förfalskningarna som blir svåra att undvika på sociala medieplattformar. 

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Sam Jeans

Sam är en vetenskaps- och teknikskribent som har arbetat i olika AI-startups. När han inte skriver läser han medicinska tidskrifter eller gräver igenom lådor med vinylskivor.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar