Явные глубокие подделки изображений Тейлор Свифт вызвали ожесточенные споры о возможностях искусственного интеллекта в создании и распространении дезинформации.
Выступая на фоне каскада реакций со стороны технологической индустрии и общественности, генеральный директор Microsoft Сатья Наделла обратился к тревожной тенденции создания искусственным интеллектом фальшивых обнаженных тел.
Во время эксклюзивного интервью с Новости NBCНаделла выразил свою озабоченность ситуацией, назвав распространение такого контента "тревожным и ужасным".
Он подчеркнул необходимость срочных действий, заявив: "Я считаю, что мы должны действовать быстро". Наделла подчеркнул важность внедрения более строгих "ограждений" вокруг технологий искусственного интеллекта для обеспечения безопасности онлайн-контента.
Проблема в том, что ограждения просто не работают так хорошо. Исследование за исследованием показал, что самые сложные модели искусственного интеллекта уязвимы для многочисленных манипуляций.
Наделла признал усилия по борьбе с фальшивками, но подчеркнул необходимость глобального общественного консенсуса относительно того, когда правоохранительные органы и технологические платформы должны сотрудничать для регулирования контента.
Это может стать скользкой дорожкой для приватности, а передача ответственности за продукты Big Tech правоохранительным органам - сомнительная перспектива.
Между тем, был достигнут прогресс в отслеживании виновники изображений Тейлор СвифтЭто может быть следствием доклада 404 СМИВ результате чего изображения были отслежены в группе Telegram, известной тем, что в ней создавались порнографические материалы без согласия.
Ранее эта группа рекомендовала создавать такие изображения с помощью генератора изображений Designer от Microsoft, используя лазейку в защитных механизмах ИИ.
Хотя окончательно не доказано, что в данном случае был использован конструктор, это подчеркивает неэффективность существующих методов ограничения вреда.
Позже компания Microsoft выступила с заявлением для NBC: "Мы очень серьезно относимся к этим сообщениям и стремимся обеспечить безопасный опыт для всех. Мы расследовали эти сообщения и не смогли воспроизвести откровенные изображения в этих сообщениях".
"Наши фильтры безопасности контента для откровенного содержания работали, и мы не нашли никаких доказательств того, что они были обойдены. Из избытка осторожности мы предприняли шаги по усилению подсказок для фильтрации текста и борьбе с неправомерным использованием наших услуг".
Широко распространенные реакции
Реакция не ограничилась технологической индустрией.
SAG-AFTRA, профсоюз, представляющий актеров и других работников СМИ, описал изображения Тейлор Свифт как "расстраивающую, вредную и вызывающую глубокое беспокойство" и призвала к судебному разбирательству.
Профсоюз, который в прошлом году участвовал в исторической забастовке голливудских актеров, поддерживает всеобъемлющее законодательство в области искусственного интеллекта, которого по-прежнему не хватает, когда речь заходит о таких ближайших рисках, как глубокие подделки.
Между тем, тег #ProtectTaylorSwift распространился по всему миру, и люди присоединились к осуждению.
Самосуд?
Тейлор Свифт поддерживают миллионы "свифтистов", которые имеют грозную репутацию, противостоя тем, кто плохо отзывается о звезде.
Профиль X под именем Зубера Абди (Zubera Abdi), идентифицированный как канадский пользователь, который мог распространять сгенерированные искусственным интеллектом NSFW-изображения Свифт, стал объектом цифровой охоты.
Абди уверенно заявил: "Мне все равно, насколько сильны Свифти, они никогда не найдут меня", - недооценив решимость фанатов Свифт.
Абди недолго оставался непокорным, так как Свифти мобилизовался и узнал его полное имя - Зубеар Мохамед Абди.
Зубир Абди ака @zvbear
торонто, онтарио, канада
учился: Университет Торонто Скарборо
Сомалиец, но живет в КанадеНо все равно нужен точный адрес. pic.twitter.com/N8L7yZsaso
- 𝗯𝗿𝗼𝘁𝗵𝗲𝗿... (@theantiqueswift) 25 января 2024 года
Ситуация обострилась, когда личная информация Абди стала широко распространяться среди свифтианцев, один из которых прокомментировал: "У них есть полное правительство (имя) в заголовках, теперь, чувак, ему конец".
Другой пользователь, @Melodic_Lemons3, намекнул на возможные юридические последствия, с которыми может столкнуться Абди, отметив: "Зубеар Мохамед Абди приготовлен", особенно в свете того, что Белый дом выразил тревогу по поводу откровенных изображений Свифт, созданных ИИ.
Зубеар Мохамед Абди приготовил https://t.co/WfRQA1Sjm5
- 𝕸𝖊𝖑𝖔𝖉𝖎𝖈❤️🔥 #FreePalestine (@Melodic_Lemons3) 26 января 2024 года
Столкнувшись с непреодолимой реакцией и перспективой юридических проблем, Абди уступил давлению и выбрал "тактическое отступление", сделав свой аккаунт приватным.
"Теперь я имею дело со Свифти. Совсем другое животное", - сказал он. "Это тактический отход, все великие армии так поступали".
Абди, если он виноват, несомненно, связался не с тем человеком, но не у каждой жертвы фальшивого преступления есть миллионы сторонников, которые их поддерживают.
