Более 100 фальшивых видеореклам с участием премьер-министра Великобритании Риши Сунака было размещено на Facebook.
Компания Fenimore Harper, специализирующаяся на онлайн-коммуникациях, провела исследование и опубликовала результаты выводы, содержащиеся в настоящем отчете.
Глубоко поддельные объявления охватили, возможно, 400 000 человек с помощью 143 рекламных объявлений. из таких стран, как США, Турция, Малайзия и Филиппины. Расходы на рекламу, вероятно, превысили 12 929 фунтов стерлингов.
Один из особенно ярких примеров - сфабрикованный ролик, в котором диктор BBC Сара Кэмпбелл ложно сообщает о скандале, связанном с компанией Sunak и приложением, якобы запущенным Элоном Маском.
В рекламе утверждается, что Элон Маск "запустил приложение, способное автономно проводить операции с акциями и рынками", и далее говорится: "Я лично могу поручиться за надежность этой инвестиционной платформы".
Это привело к появлению поддельной страницы BBC News, рекламирующей мошеннические инвестиции.
Маркус Бирд, основатель компании Fenimore Harper, объяснил, "С появлением дешевых и простых в использовании технологий клонирования голоса и лица требуется совсем немного знаний и опыта, чтобы использовать сходство с человеком в злонамеренных целях".
Он также обратил внимание на проблему недостаточной модерации платной рекламы на таких платформах, как Facebook, отметив, что "эти объявления противоречат нескольким рекламным правилам Facebook. Однако очень немногие из тех объявлений, с которыми мы столкнулись, были удалены".
В ответ на это представитель правительства Великобритании заявил: "Мы ведем активную работу в правительстве, чтобы обеспечить готовность быстро реагировать на любые угрозы демократическим процессам с помощью нашей целевой группы по защите демократии и специальных правительственных групп".
"Наш закон о безопасности в Интернете идет дальше и требует от социальных платформ оперативно удалять незаконную дезинформацию и дезинформационные материалы - в том числе и те, которые генерируются искусственным интеллектом, - как только им становится об этом известно".
Би-би-си, признавая растущую распространенность дезинформации, призывает к бдительности. Пресс-секретарь заявилМы запустили программу BBC Verify в 2023 году, чтобы противостоять растущей угрозе дезинформации, инвестируя в высокоспециализированную команду, обладающую рядом криминалистических знаний и знаний из открытых источников (OSINT) для расследования, проверки фактов, проверки видео, противодействия дезинформации, анализа данных и объяснения сложных историй".
"Мы укрепляем доверие аудитории, показывая, как журналисты Би-би-си разбираются в информации, которую они сообщают, и предлагая разъяснения, как распознать фальшивый и глубоко фальшивый контент. Когда нам становится известно о поддельном контенте BBC, мы принимаем оперативные меры".
Meta, материнская компания Facebook, также отреагировала на эти опасения. Представитель Meta прокомментировал: "Мы удаляем контент, нарушающий наши правила, независимо от того, был ли он создан искусственным интеллектом или человеком".
Растущая изощренность и распространенность глубоких подделок, создаваемых искусственным интеллектом, особенно в контексте политических кампаний, поднимает огромные вопросы о целостности информации в эпоху ИИ.
Контент, управляемый искусственным интеллектом, оказывает давление на выборы
В то время как мир готовится к серии громких выборов в 2024 и 2025 годах, глубокая фальшивая дезинформация в политических кампаниях становится все более распространенной глобальной проблемой.
В Словакии управляемый искусственным интеллектом аудиозапись, ложно изображающая политические деятели появились незадолго до выборов, вызвав тревогу по поводу способности ИИ искажать политические нарративы.
Национальные выборы в Бангладеш сталкивались с подобными проблемамив которых сообщалось об использовании проправительственными группами новостных роликов, созданных искусственным интеллектом, для изменения общественного мнения.
Крупнейшие технологические компании, такие как Google и Meta, начали проводить политику в отношении политической рекламы, требуя раскрывать информацию о любых видах искусственного интеллекта или цифровых изменениях. Однако эти меры часто оказываются недостаточными.
