Изображения Тейлор Свифт, созданные с помощью искусственного интеллекта методом дипфейкинга, вызвали возмущение.

Недавно в социальных сетях были распространены откровенно поддельные изображения поп-звезды Тейлор Свифт, созданные искусственным интеллектом, что вызвало всеобщее возмущение. 

Несмотря на строгие правила, запрещающие подобный контент, эти снимки, на которых Свифт изображена в откровенно сексуальных позах, провисели 19 часов, набрав более 27 миллионов просмотров и 260 тысяч лайков, прежде чем аккаунт был приостановлен.

Этот инцидент стал поводом для многочисленных вопросов об эффективности политики социальных сетей в отношении глубокая фальшивая дезинформация.

Можно ли его остановить? Похоже, что нет. Так как же с этим бороться? Что ж, сервисы обнаружения ИИ (похожие на службы проверки фактов) и "Заметки сообщества", прикрепляемые к постам на сайте X, - два возможных решения, но у обоих есть свои недостатки. 

Откровенные изображения Тейлор Свифт распространялись в основном в социальных сетях на платформе X, но также попали на другие социальные медиаплатформы, включая Facebook, показывая, как противоречивый контент ИИ распространяется как лесной пожар. 

Представитель Meta отреагировал на инцидент, заявив: "Этот контент нарушает наши правила, и мы удаляем его с наших платформ и принимаем меры против аккаунтов, которые его разместили. Мы продолжаем мониторинг, и если мы обнаружим еще какой-либо нарушающий правила контент, мы удалим его и примем соответствующие меры".

Миллионы пользователей Reddit обсуждают последствия этого и других недавних вирусных инцидентов с фейками, включая фотографию горящей Эйфелевой башни.

В сети TikTok появилось видео, просмотренное миллионы раз, в котором утверждается, что Эйфелева башня горит. Эйфелева башня не горит. pic.twitter.com/IxlsKOqOsI

- Алистер Коулман (@alistaircoleman) 22 января 2024 года

Хотя многие воспримут эти изображения как очевидную подделку, мы не можем предполагать, что широкая общественность знает об этом.

Один из комментаторов на Reddit сказал об инциденте с Тейлор Свифт: "Теперь я знаю, как много людей не знают, что такое глубокие подделки", подразумевая низкую осведомленность о проблеме.

Эксперты отрасли также обсудили эту проблему с бывшим руководителем компании-Stability Эдом Ньютоном-Рексом, который утверждает, что технологические компании придерживаются "порывистого" подхода и плохо вовлекают в работу руководителей.

Явные, несогласованные глубокие подделки ИИ - результат целого ряда неудач.

- Культура генеративного ИИ, основанная на принципах "корабль - как можно быстрее", независимо от последствий
- Умышленное игнорирование компаниями, занимающимися разработкой ИИ, того, для чего используются их модели
- Полное пренебрежение доверием и...

- Эд Ньютон-Рекс (@ednewtonrex) 26 января 2024 года

Бен Декер из Memetica, агентства цифровых расследований, прокомментировал отсутствие контроля над воздействием ИИ: "Это яркий пример того, как искусственный интеллект развязывается для множества гнусных целей без достаточных ограждений, чтобы защитить общественность". 

Он также указал на недостатки стратегий мониторинга контента, применяемых компаниями в социальных сетях.

Сообщается, что Тейлор Свифт рассматривает возможность судебного разбирательства с сайтом, разместившим эти изображения. 

Было множество подобных случаев откровенных глубоких подделок, в основном с участием женщин и детей, иногда с намерение подкупить людейЕго также называют "сексплуатацией".

ИИ-изображения сексуального насилия над детьми - самый мрачный и вызывающий опасения результат применения технологии генерации изображений. Недавно в США мужчина был приговорен к 40 годам в тюрьму за хранение таких изображений. 

После этого и других подобных инцидентов участились призывы к принятию законодательства, направленного на борьбу с этой формой неправомерного использования ИИ. 

Представитель США Джо Морелль назвал распространение фальшивок Свифт "ужасающим" и призвал к срочным юридическим действиям. Он отметил: "В том, что произошло с Тейлор Свифт, нет ничего нового", подчеркнув непропорционально большое влияние такого контента на женщин.

Глубокая фальшивая дезинформация также широко обсуждалась на Всемирный экономический форум в Давосе с растущим опасения по поводу возможности влияния манипулируемого контента на фондовые рынки, выборы и общественное мнение.

Усилия по борьбе с подделками уже предпринимаются: и стартапы, и технологические гиганты разрабатывают технологии обнаружения. 

Например, компания Intel выпустила продукт, способный распознавать поддельные видеоролики с точностью 96%. 

Однако пока эта проблема остается практически непреодолимой, поскольку технология быстро развивается и распространяется по всему интернету.