Пока в Судане идет ожесточенная гражданская война, кампания на TikTok, управляемая искусственным интеллектом, подливает масла в огонь дезинформацией.
Используя искусственный интеллект для имитации голоса бывшего президента Омара аль-Башира, эта кампания посеяла семена сомнений и смятения в стране, и без того переживающей неспокойное время.
С конца августа анонимный пользователь TikTok выкладывает так называемые "утечки записей" аль-Башира. Однако голос, звучащий на этих записях, с большой вероятностью не является подлинным.
Хотя в начале года поступали сообщения о том, что аль-Башир, которому предъявлены серьезные обвинения в военных преступлениях и который должен быть отстранен от власти в 2019 году, содержится в военном госпитале, он до сих пор остается неуловимым.
Его длительное отсутствие на публике в сочетании с этими таинственными записями усугубило неопределенность, охватившую Судан.
Подчеркивая последствия подобных обманных кампаний, эксперты отмечают растущее влияние технологий на распространение дезинформации.
Глубокие фальшивые записи также мешали недавние выборы в СловакииМногие обеспокоены тем, как технология повлияет на предстоящие в следующем году выборы в США и Индии.
Хани Фарид из Калифорнийского университета в Беркли выражает опасения: "Изощренные актеры умели искажать реальность на протяжении десятилетий, но теперь обычный человек, не обладающий практически никакими техническими знаниями, может быстро и легко создавать фальшивый контент".
Голос Судана, скорее всего, является глубокой подделкой ИИ
Если углубиться в канал TikTok, то окажется, что "Голос Судана" представляет собой смесь различных источников контента - старых пресс-конференций, фрагментов новостей и обсуждаемых "утечек записей", приписываемых аль-Баширу.
Многие из этих роликов имеют характерную зернистость, которую можно было бы ожидать от тайно записанных разговоров, что еще больше искажает истину.
Группа расследований Би-би-си в сотрудничестве с суданскими экспертами, исследовал подлинность этих записей. Первые результаты показывают, что, хотя голос имеет поразительное сходство с голосом аль-Башира, вероятность того, что это действительно он, невелика.
Доказательства склоняются в пользу использования программного обеспечения для трансформации голоса с помощью ИИ, способного превратить любой голос в другой.
Последующие расследования также связали некоторые из этих записей с предыдущими передачами известного суданского политического комментатора, проживающего в США.
Роль и намерения "Голоса Судана" остаются туманными. Хотя канал может пытаться намекнуть на участие аль-Башира в текущих делах, он также может продвигать конкретную политическую повестку дня, выдавая себя за его голос. Однако истинные мотивы канала остаются окутанными тайной.
После тщательного изучения и осознания потенциального вреда такого контента TikTok принял решительные меры.
Платформа удалила "Голос Судана" за нарушение правил сообщества, что свидетельствует об активной позиции в борьбе с фальшивками, которых все труднее избежать на платформах социальных сетей.
