Numa altura em que o Sudão se debate com uma guerra civil amarga, uma campanha no TikTok alimentada por IA está a alimentar o fogo com desinformação.
Utilizando a IA para imitar a voz do antigo presidente Omar al-Bashir, esta campanha semeou a dúvida e a confusão numa nação já em turbulência.
Desde o final de agosto, um utilizador anónimo do TikTok tem carregado o que designa por "gravações que vazaram" de al-Bashir. No entanto, é muito provável que a voz que aparece nestas gravações não seja autêntica.
Embora os relatórios do início do ano indicassem que Al-Bashir, que enfrenta sérias alegações de crimes de guerra e foi afastado do poder em 2019, estava detido num hospital militar, tem permanecido indetetável.
A sua ausência prolongada dos assuntos públicos, combinada com estas gravações misteriosas, aprofundou a incerteza que envolve o Sudão.
Ao sublinhar as implicações de tais campanhas enganosas, os peritos salientam a influência crescente da tecnologia na divulgação de informações incorrectas.
As gravações falsas profundas também interferiram com o recentes eleições na EslováquiaMuitos estão preocupados com a influência da tecnologia nas próximas eleições nos EUA e na Índia, no próximo ano.
Hany Farid, da Universidade da Califórnia, em Berkeley, manifesta a sua preocupação: "Há décadas que actores sofisticados conseguem distorcer a realidade, mas agora uma pessoa comum, com poucos ou nenhuns conhecimentos técnicos, pode criar conteúdos falsos de forma rápida e fácil".
A Voz do Sudão é provavelmente uma falsificação profunda de IA
Ao aprofundar a análise do canal TikTok, "A Voz do Sudão" parece ser uma mistura de várias fontes de conteúdo - conferências de imprensa mais antigas, excertos de notícias e as debatidas "gravações com fuga de informação" atribuídas a al-Bashir.
Muitos destes clips têm a granulação caraterística que se esperaria de conversas gravadas secretamente, o que torna a verdade ainda mais confusa.
A equipa de investigação da BBC, em colaboração com peritos sudaneses, mergulhou na autenticidade destas gravações. As primeiras descobertas sugerem que, embora a voz tenha uma semelhança impressionante com a de al-Bashir, a possibilidade de se tratar efetivamente dele é reduzida.
As provas apontam mais para a utilização de software de transformação de voz por IA, capaz de transformar qualquer voz noutra.
Investigações posteriores também ligaram algumas destas gravações a emissões anteriores de um conhecido comentador político sudanês radicado nos EUA.
O papel e as intenções de "A Voz do Sudão" permanecem nebulosos. Embora o canal possa tentar insinuar o envolvimento de al-Bashir nos assuntos em curso, pode também estar a promover uma agenda política específica ao fazer-se passar pela sua voz. As verdadeiras motivações do canal, no entanto, permanecem envoltas em mistério.
Após uma análise minuciosa e reconhecendo os potenciais danos de tais conteúdos, o TikTok tomou medidas decisivas.
A plataforma removeu "The Voice of Sudan" por violar as directrizes da comunidade, o que indica uma atitude proactiva para combater as falsificações profundas que estão a tornar-se difíceis de evitar nas plataformas das redes sociais.
