На компании, занимающиеся разработкой искусственного интеллекта, подают в суд за нарушение авторских прав, но изображения, созданные искусственным интеллектом, также представляют потенциальный правовой риск для конечных пользователей.
В статье, опубликованной на сайте IEEE SpectrumКогнитивный ученый доктор Гэри Маркус и концепт-художник Рид Саутен рассказали о растущей проблеме визуального плагиата, с которой сталкиваются генераторы искусственного интеллекта.
Мы ранее сообщалось на изображениях, которые Саутен и другие смогли создать с помощью Midjourney v6. При некоторой осторожности сгенерированные изображения были очень похожи на кадры из фильмов-блокбастеров, защищенных авторским правом.
Условия и правила Midjourney теперь предупреждают пользователей, что если они используют платформу для создания материалов, нарушающих авторские права, они могут быть заблокированы и подвергнуться судебному преследованию. Саутен был впоследствии забанен, когда указал на проблему плагиата в Midjourney v6.
Если вы намеренно попросили Midjourney или DALL-E создать изображение с диснеевским персонажем, вы, вероятно, не удивитесь, если вам позвонит адвокат Disney. Маркус и Саутен отметили, что использование этих инструментов сопряжено с более тонким риском.
Они обнаружили, что даже общие запросы часто возвращают материалы, защищенные авторским правом. Если бы пользователь невинно задал запрос "популярный мультфильм 90-х годов с желтой кожей", то получил бы вот это.
Они не признаются, но, похоже, модель Midjourney получила удовольствие от нескольких эпизодов "Симпсонов".
Возможно, эта подсказка заставляла продемонстрировать проблему. Если бы вы использовали ИИ для написания книги для детей и хотели, чтобы Midjourney выдал изображение "анимированных игрушек", вы могли бы получить следующее.
Если вы были одним из немногих людей, которые не смотрели "Историю игрушек", то вы могли бы нажать кнопку "Опубликовать" в своей книге, которая теперь содержала бы изображения, которые, почти наверняка, вызвали бы у вас иск об авторских правах.
DALL-E также генерирует хорошую коллекцию знакомых персонажей из таких фильмов, как "Монстры Инк" и "Тачки", на тот же простой запрос из двух слов. Даже простой запрос на редактирование может завести пользователя на мутную территорию нарушения авторских прав, как это сделал пользователь на сайте X.
Всегда проверяйте шумиху вокруг ИИ самостоятельно. Итак, вот мой собственный быстрый тест разумного запроса конечного пользователя на DALL-E 3.
Все начинается хорошо, несмотря на подозрительно красную шляпу. Но еще немного итераций, и вдруг... это я, Марио!@GaryMarcus @OpenAI @Nintendo pic.twitter.com/qK23XJcsZj- NLeseul (@NLeseul) 30 декабря 2023 года
Как же это исправить? Маркус и Саутен предлагают удалить некачественный учебный материал, улучшить фильтрацию подсказок и другие варианты. Однако они признают, что создание генератора изображений с искусственным интеллектом, который был бы действительно хорош и при этом не нарушал юридических и этических норм, является непростой задачей.
В DALL-E есть некоторые фильтры для предотвращения создания нелегального контента, но, похоже, их гораздо легче обойти, чем следовало бы. Простой быстрый джейлбрейк, как этот, не должен работать.
Если пользователи захотят намеренно использовать эти инструменты для создания контента, нарушающего авторские права, то не похоже, что компании, занимающиеся разработкой генеративного ИИ, смогут предотвратить это в ближайшее время. Более серьезной проблемой является возможность случайных нарушений.
Если ваша красивая черно-белая фотография, которую сделал DALL-E, очень похожа на изображение Getty, защищенное авторским правом, то кто несет юридическую ответственность? На данный момент лучше всего прогнать любое изображение, которое вы планируете опубликовать, через обратный поиск, чтобы убедиться, что вы не присоединитесь к мешанине исков об авторском праве.