Инструмент для отравления данных Nightshade, разработанный Чикагским университетом, собрал более 250 000 загрузок всего за пять дней после своего дебюта 18 января 2024 года.
Разработанная для того, чтобы помочь художникам в борьбе с несанкционированным использованием их работ моделями искусственного интеллекта, Nightshade предлагает новый подход, "отравляя" модели, эффективно нарушая их способность обучаться на изображениях, на которых они были обучены.
Этот процесс работает, тонко изменяя изображения на уровне пикселейБлагодаря этому они выглядят иначе, чем модели искусственного интеллекта, не нарушая их визуальной целостности для человеческого глаза.
Когда модель искусственного интеллекта обучается на отравленных изображениях, ее результаты становятся ошибочными, что позволяет эффективно защитить художников от вымарывания данных в долгосрочной перспективе.
Разработчики ИИ захотят не навредить своим моделям, обучаясь на отравленных изображениях, так что мяч окажется в их руках.
Они либо найдут решение, либо изменят свои методы сбора данных, чтобы избежать отравления авторских работ.
Nightshade лучше всего работает при масштабном использовании - чем больше отравленных изображений попадет в модель ИИ, тем сильнее будет воздействие.
Если теоретически каждое изображение в наборе данных будет отравлено, то модель искусственного интеллекта не сможет создать ничего связного - ее результаты будут представлять собой беспорядочную кашу.
На более низком уровне отравленные изображения заставляют модель обучаться ложным ассоциациям, в результате чего на запрос "кошка на облаке" может появиться что-то похожее на "саквояж в поле".
Хотя компании, занимающиеся разработкой искусственного интеллекта, уже имеют под рукой огромное количество данных, если они не будут создавать новые, современные базы данных, то модели в конечном итоге потеряют связь с реальностью.
Бен Чжао, руководитель проекта и профессор информатики в университете, выразил удивление тем, как инструмент был принят, заявив VentureBeat"Я все еще недооценивал это. Реакция просто превосходит все наши представления".
Об этом говорится в заявлении команды в социальных сетях, где подчеркивается беспрецедентный спрос: "Спрос на Nightshade зашкаливает", - заявили они, отметив, что поток скачиваний по всему миру на мгновение перегрузил сетевую инфраструктуру университета, что, по их мнению, изначально могло быть кибератакой.
Спрос на паслен просто зашкаливает. Глобальные запросы фактически переполнили сеть нашего кампуса. (Никаких dos-атак, только легальные загрузки). Мы добавляем две быстрые зеркальные ссылки для двоичных файлов nightshade.
Победа: https://t.co/rodLkW0ivK
Мак: https://t.co/mEzciopGAE- Glaze at UChicago (@TheGlazeProject) 20 января 2024 года
Этот инструмент является последним в серии работ команды, после Glaze, другого инструмента, направленного на введение в заблуждение моделей искусственного интеллекта относительно стиля произведения искусства. В настоящее время разработчики изучают возможности интеграции Nightshade и Glaze, предлагая многоуровневую защиту для цифрового контента.
Nightshade довольно сложна и требовательна к ресурсам, для ее запуска необходим мощный компьютер.
Отравление нескольких изображений также отнимает много времени, но раз уж дело сделано, то сделано. Пользовательский интерфейс Nightshade, хотя и не отличается особой привлекательностью, довольно интуитивно понятен. Он позволяет пользователям выполнять простые настройки и получать результаты в течение 30-180 минут, в зависимости от выбранных параметров.
Художники и технологические энтузиасты используют этот инструмент, а некоторые выступают за повсеместное использование Nightshade на всем личном цифровом контенте, чтобы разбавить пул данных для моделей искусственного интеллекта. Как говорится, сила в количестве.
Сайт борьба с художниками В этом году было отмечено огромное количество выступлений против разработчиков искусственного интеллекта, использующих данные об авторских правах. Художники со всех сторон творческого спектра объединились на X и других платформах социальных сетей, вняв призыву таких защитников, как Рид Саутен и Джон Лэм.
250K скачиваний для Nightshade!!! Давайте затенять/заливать и загружать. Загрузка - это только первый шаг!!! Поздравляем @TheGlazeProject
скачать здесь! Начните отравлять свое искусство СЕЙЧАС!!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Джон Лэм #CreateDontScrape (@JonLamArt) 30 января 2024 года
Разработчикам ИИ приходится беспокоиться не только о художниках - они также борются с рядом судебные иски по авторским правам и сражаться растущие потребности в энергии и надвигающийся дефицит полупроводников.
Хотя Nightshade все еще представляет определенную сложность в использовании, планируется интегрировать его с социальным и портфельным приложением Cara, которое в настоящее время находится в открытой бета-версии, что намекает на более широкое внедрение.
В конечном итоге Nightshade может быть полностью размещен в облаке, что сделает его очень доступным.
Поскольку цифровой ландшафт продолжает развиваться, инструменты, подобные Nightshade, представляют собой техническое решение и символ продолжающейся борьбы за контроль и уважение в эпоху ИИ.
Это еще одна "гонка ИИ" в отрасли, которая сейчас находится в напряжении.
