Распространение инструментов и технологий искусственного интеллекта уже принесло множество преимуществ как частным лицам, так и компаниям, однако расширение доступа к инструментам искусственного интеллекта не могло не сказаться на уровне дезинформации, распространяемой в мире.
Использование глубоких подделок для искажения информации о влиятельных фигурах вызывает все большую озабоченность во всем мире, а дезинформация и дезинформирование названы Всемирным экономическим форумом угрозой номер один, с которой столкнется мир в ближайшие два года. Отчет о глобальных рисках (2024).
Дезинформация с помощью ИИ - глобальная проблема, но какие страны борются с ней наиболее ожесточенно? В этом исследовании наша команда из DailyAI взяла страны-лидеры в области искусственного интеллекта (определяемые по исследовательскому потенциалу) и проанализировала среднюю частоту и глубину интереса к инструментам, связанным с deep fake.
Ключевые выводы:
- Сингапур, Австралия, Финляндия и Нидерланды занимают первые места среди стран, наиболее заинтересованных в создании глубоких подделок
- Китай, хотя и является второй страной-лидером в области искусственного интеллекта, но, согласно нашим данным, наименее заинтересован в искусственном интеллекте в целом.
Сэм Джинс, эксперт по искусственному интеллекту из DailyAI, комментирует:
"Резкий рост числа подделок и манипуляций с контентом, размещаемым в Интернете, по понятным причинам вызывает серьезную озабоченность у правительств по всему миру, поскольку мы пытаемся найти правильные границы между использованием новых и развивающихся технологий и борьбой с тем, что может нанести беспрецедентный вред.
Эти результаты показывают, что интерес к глубоким фальшивым манипуляциям, безусловно, более распространен в одних странах, чем в других, но, поскольку этот контент доступен в глобальном масштабе, потребуются совместные усилия, чтобы свести к минимуму вред, наносимый глубоким фальшивым контентом".
Австралия больше всего заинтересована в создателях глубоких подделок
Оценивая топ-10 стран с искусственным интеллектом на предмет их интереса к deep fake makers и связанным с ними поискам, мы обнаружили, что наибольший интерес проявляет Австралия, где этот показатель составляет 0,41 из 100 000 человек.
Австралия также входит в тройку стран с наибольшим количеством поисковых запросов по запросу "deep fake porn maker" и занимает четвертое место по запросу "deep fake image maker". В настоящее время Австралия считается шестой страной-лидером по возможностям и исследованиям в области искусственного интеллекта.
В конце 2023 года Австралия объявила, что будет давление на платформы социальных сетей в борьбе с фальшивыми изображениями и видеороликами после растущего беспокойства по поводу уровня оскорбительного контента и ненавистнических комментариев, размещаемых в сети.
Сингапур больше всего очарован возможностями глубокого поддельного порно
Наша аналитика также показала, что Сингапур занимает первое место по количеству поисковых запросов, связанных с создателями порнографии с глубокой подделкой, с частотой встречаемости 0,50 на 100 000 человек. Кроме того, эта страна занимает второе место по интересу к "создателям глубоко поддельного видео" и второе место по интересу к "создателям глубоко поддельной обнаженной натуры". Частота запросов по этому запросу составляет 0,17 на 100 000 человек - такая же, как в Нидерландах и США.
Этот вывод несколько удивляет, учитывая, что интерес Сингапура к "глубоким создателям фальшивок" гораздо ниже - страна находится в середине рейтинга по этому поисковому запросу.
Однако Сингапур также занимает второе место по популярности поискового запроса "deep fake image maker" с частотой встречаемости 0,17 на 100 000 человек. Страна занимает второе место после Финляндии по этому поисковому запросу.
Сингапур занимает третье место среди стран-лидеров по исследованиям и возможностям искусственного интеллекта. Одним из наиболее заметных случаев использования глубоких подделок в Сингапуре был случай, когда инвестиционное мошенничество видео В 2023 году в социальных сетях распространилась информация о заместителе премьер-министра Лоуренсе Вонге и фальшивом закадровом голосе, рекламирующем мошенническую инвестиционную возможность.
В Нидерландах почти вдвое чаще, чем в любой другой стране, ищут создателей фальшивых видеороликов
Несмотря на то, что Нидерланды не занимают лидирующие позиции в других поисковых запросах, связанных с глубокими подделками, эта страна проявляет несомненный интерес к созданию видеоконтента, в частности, глубоких подделок.
Частота запросов на поиск создателей фальшивых видео составила 0,96 на 100 000 человек - почти вдвое больше, чем в стране, занимающей второе место, - Сингапуре, опять же, 0,50 запросов на 100 000 человек.
Нидерланды - еще одна страна, в которой глубокие подделки политиков использовались для введения в заблуждение общественного мнения. На выборах в ноябре 2023 года в социальных сетях многих видных политиков появилось тревожное количество фальшивых манипуляций.
Финляндия проявляет наибольший интерес к глубоким поддельным изображениям и обнаженной натуре
Наконец, Финляндия входит в число стран, наиболее заинтересованных в глубоких подделках, с наибольшим числом запросов на поиск создателей обнаженных натур и изображений (0,18 на 100 000 человек по каждому соответствующему поисковому запросу).
В настоящее время Финляндия занимает девятое место в списке стран-лидеров по исследованиям и возможностям искусственного интеллекта. Стране часто аплодируют за ее миссию по созданию образование в авангарде В борьбе с дезинформацией и фальшивыми новостями - но, как показано здесь, это не всегда удерживает людей от интереса к тому, чего могут достичь эти новые формы ИИ.
США демонстрируют заметное отсутствие интереса к глубоким подделкам
США в настоящее время считаются ведущей страной в области исследований и возможностей искусственного интеллекта, поэтому можно предположить, что эта страна также находится в авангарде любого интереса к глубоким создателям подделок.
Однако наши рейтинги показывают, что страна явно не заинтересована в создании глубоких подделок по сравнению с другими странами в этом списке. США занимают второе место, наряду с Нидерландами и Сингапуром, по поиску создателей глубоких подделок обнаженной натуры, но занимают среднее место в рейтинге по другим связанным терминам.
Тем не менее, многие американские знаменитости уже стали объектами глубокой фальсификации видео и изображений, размещенных в Интернете, а США уже находятся в процессе разработка новых законов чтобы защитить людей от вреда, который может нанести фальшивый контент.
Китай в целом меньше всего заинтересован в производителях подделок
Несмотря на то, что Китай считается второй страной-лидером в области искусственного интеллекта, уступая только США, по результатам нашего исследования он оказался наименее заинтересованным в глубоком создании подделок по всем поисковым запросам.
Китай находится в самом низу рейтинга по поиску глубоких подделок, в том числе порнографических, что говорит о том, что возможности глубоких подделок, возможно, еще не достигли мейнстрима в стране.
Однако важно отметить, что данные поиска могут быть не 100% точными для поиска в Китае. ИИ, конечно, не новинка для Китая - с глубокие фальшивки живых людей В 2023 году в газетах появятся заголовки о круглосуточном режиме работы, а также о росте финансовые аферы с использованием технологии глубокой подделки. Возможно, более вероятным является предположение о том, что мы не можем получить доступ к абсолютно точным поисковым данным из Китая по запросам, связанным с искусственным интеллектом.
Как распознать глубокую подделку
Чтобы определить подлинность цифрового контента и выявить глубокие подделки, важно знать, на какие признаки следует обращать внимание. Следующие признаки помогут вам отличить подлинный контент от сложных подделок:
1. Несоответствия в освещении и тенях
Подделки часто не могут точно воспроизвести нюансы естественного освещения и теней. Ищите нарушения в том, как свет взаимодействует с объектом, например, несочетаемые тени или непостоянное освещение в разных частях сцены.
2. Аномалии черт лица
Обращайте пристальное внимание на мимику и черты лица субъекта видео имджа. Глубокие подделки часто демонстрируют такие аномалии, как неестественное моргание, странные движения губ или выражения лица, которые не соответствуют эмоциональному тону голоса или ситуации. По мере развития технологий эти аномалии будут становиться все более незначительными.
3. Аудиовизуальные несоответствия
В глубоких подделках синхронизация между аудио- и визуальными элементами может быть нарушена. Проверьте, синхронизированы ли движения губ испытуемого с произносимыми словами. Любая задержка или несоответствие между визуальным и звуковым сопровождением может быть красным флажком, указывающим на то, что перед вами глубокая подделка.
4. Текстура кожи и цвет лица
Иногда подделкам сложно реалистично передать текстуру человеческой кожи. Обращайте внимание на любые признаки ненормальной текстуры кожи или смещения оттенков кожи, которые не выглядят естественными или постоянными на протяжении всего видео.
5. Несоответствия с фоном
Проанализируйте фон на предмет искажений или колебаний. Технология Deepfake может сфокусироваться на объекте и не заметить фон, что приведет к аномалиям в окружающей обстановке.
6. Качество и разрешение
С осторожностью относитесь к видео, которое выдается за официальное, но намеренно представлено в низком разрешении или качестве. Иногда создатели глубоких подделок используют низкое качество, чтобы скрыть недостатки и аномалии, которые были бы более заметны в высоком разрешении.
Методология
Чтобы получить эти данные, наша команда DailyAI использовала 10 лучших стран считаются передовыми в области ИИ в 2023 году. Затем мы определили среднемесячный объем поиска по ряду терминов, связанных с глубоким искусственным интеллектом, и среднее количество поисковых запросов на 100 000 человек, чтобы нивелировать любые погрешности стран с большей численностью населения.
