Январь 2024 года начался с разговоров о том, что Midjourney, ведущая компания в мире ИИ-генерации изображений, использовала имена и стили более 16 000 художников без их согласия для обучения своих моделей генерации изображений.
Вы можете просмотреть базу данных артистов в соответствии с Дополнением J судебный иск, поданный против Midjourney, Stability AI и DeviantArt.
В течение той же недели после этого разоблачения ученый-когнитивист доктор Гэри Маркус и художник Рид Саутен выпустили анализ в IEEE под названием "Generative AI Has a Visual Plagiarism Problem" ("Генеративный ИИ имеет проблему визуального плагиата").
Они провели серию экспериментов с моделями ИИ Midjourney и DALL-E 3, чтобы изучить их способность генерировать изображения, которые могут нарушать авторские права.
Побуждая Midjourney и DALL-E 3 к действиям, намеренно подобранным так, чтобы они были краткими и касались коммерческих фильмов, персонажей и узнаваемых мест, Маркус и Саутен выявили невероятную способность этих моделей производить откровенно авторский контент.
Они использовали подсказки, связанные с конкретными фильмами, например "Мстители: Война бесконечности", не называя напрямую персонажей. Это было сделано для того, чтобы проверить, будет ли ИИ генерировать изображения, близко напоминающие защищенный авторским правом материал, только на основе контекстных подсказок.
Не обошлось и без мультфильмов - они экспериментировали с генерированием изображений персонажей "Симпсонов", используя подсказки, которые заставляли модели ИИ создавать отчетливо узнаваемые образы из сериала.
Наконец, Маркус и Саутен протестировали подсказки, в которых вообще не упоминались материалы, защищенные авторскими правами, продемонстрировав способность Midjourney вспоминать изображения, защищенные авторскими правами, даже если они не были специально запрошены.
Midjourney массово и иногда почти дословно воссоздает нелицензионный IP даже из неспецифических подсказок, получая при этом прибыль от подписок. Пользователям MJ не нужно продавать изображения, чтобы потенциально нарушить авторские права, MJ уже получает прибыль от их создания. pic.twitter.com/Ax3tQWq3pt
- Рид Саутен (@Rahll) 7 января 2024 года
Это не просто техническая экспозиция - она затрагивает нервы артистических сообществ по всему миру.
Искусство, в конце концов, не эквивалентно данным. Это кульминация эмоциональных вложений, личных поисков и кропотливого ремесла.
Исследование Маркуса и Саутена должно было стать частью затяжных дебатов, охватывающих вопросы авторского права, интеллектуальной собственности, монетизации ИИ и корпоративного использования генеративного ИИ.
Компании используют работу, созданную искусственным интеллектом, и наблюдатели не оставляют ее без внимания
Одним из маркетинговых тезисов генеративного ИИ для внедрения в бизнес является "эффективность" или ее производные.
Независимо от того, используют ли компании технологии для экономии времени, денег или решения проблем, мы уже давно знаем, что "эффективность" ИИ сопряжена с определенным риском вытеснения человеческих навыков или замены рабочих мест.
Компаниям часто рекомендуют рассматривать это как возможность. Замена человека искусственным интеллектом часто рассматривается как стратегический выбор.
Однако столь линейный взгляд на компромисс между людьми и машинами может оказаться серьезной ошибкой, что наглядно демонстрируют следующие события.
Люди не хотят оставлять без внимания случаи неправильного использования корпоративного ИИ, когда у них есть возможность противостоять им.
ID@Xbox
Xbox, через свое подразделение инди-игр ID@Xbox, выпустила зимнюю сцену, сгенерированную искусственным интеллектом. Это вызвало чувство иронии, поскольку это подразделение Xbox ориентировано на независимых разработчиков, поддержку и продвижение их работ.
Позднее Xbox удалила сообщение, но не стала его перечитывать.
Если кто-то ведет счет... Xbox и Game Informer сравнительно недавно использовали или пропагандировали генеративный ИИ. https://t.co/cOvkU3WXQ8 pic.twitter.com/2d5oeVTCLN
- Дженел Джумалон ✈️ MagFest (@GenelJumalon) 7 января 2024 года
Game Informer, как вы можете видеть выше, также опубликовал некачественное изображение Мастера Шефа из Halo, сгенерированное искусственным интеллектом.
Magic: The Gathering
Фэнтезийная карточная игра Magic: The Gathering создала буря критики когда они опубликовали частично сгенерированное ИИ изображение нового релиза карты. Именно фон был сгенерирован искусственным интеллектом, о чем свидетельствовали искаженные линии и кривые.
MTG сначала отвергала критику наблюдателей, которая набирала обороты в течение недели. Ситуация усугубилась тем, что ранее компания выпустила заявление, в котором выступила против использования искусственного интеллекта в своих "основных продуктах".
Это было рекламное изображение в социальных сетях, так что оно не нарушило обещания, но именно первоначальный плоский отказ MTG заставил многих забурлить кровь.
"созданный людьми"... Точно... pic.twitter.com/gf9TUXWSPA
- Тейлор Грин (@GreenSkyDragon) 5 января 2024 года
Ненавижу, когда мы живем в эпоху, когда нужно проверять факты в искусстве. pic.twitter.com/9D6V6ZXswW
- Дженел Джумалон ✈️ MagFest (@GenelJumalon) 5 января 2024 года
В конце недели MTG признала свое поражение перед полчищами наблюдателей, сообщив, что это изображение было сгенерировано искусственным интеллектом.
Заявление начиналось так: "Что ж, мы допустили ошибку, когда сказали, что маркетинговое изображение, которое мы опубликовали, не было создано с помощью искусственного интеллекта. Читайте дальше" и объяснялось, что дизайнер, скорее всего, использовал инструмент искусственного интеллекта, такой как Firefly, интегрированный в Photoshop, или другой инструмент графического дизайна с поддержкой искусственного интеллекта, а не просто сгенерировал все изображение с помощью Midjourney или аналогичного инструмента.
Мы ошиблись, когда сказали, что маркетинговое изображение, которое мы опубликовали, было создано не с помощью искусственного интеллекта. Читайте далее. (1/5)
- Magic: The Gathering (@wizards_magic) 7 января 2024 года
Одним из элементов этих дебатов было то, что MTG, вероятно, использовала AI только для создания фона изображения.
Если Для этого был использован Adobe FireflyЧто кажется возможным, тогда Adobe уверена в том, что использование данных является этически и юридически обоснованным, хотя это и спорно.
PВозможно, это не самое худшее нападение среди других претендентов этой недели...
Wacom
Одной из главных ошибок недели, несомненно, стала компания Wacom, производящая планшеты для художников и иллюстраторов.
Удивительно, но для бренда, основанного на помощи художникам в создании цифрового искусства, Wacom использовал изображение, сгенерированное искусственным интеллектом, для продвижения купона на скидку.
И снова пользователи определили, что изображение принадлежит ИИ, по характерным для этой технологии искажениям, например, по тексту в левом нижнем углу изображения. Позже наблюдатели обнаружили дракона в Abobe Stock Images.
Реакция была жестокой: пользователи X в явной форме унижали бренд и предлагали бойкотировать его продукцию.
Потому что Wacom удалила их сообщение.
Выкладываю для исторической сохранности в интернете. https://t.co/WEZex5GbG9 pic.twitter.com/chiR2pOczB- Дженел Джумалон ✈️ Animate Raleigh (@GenelJumalon) 6 января 2024 года
Компания Wacom извинилась, но ее попытка переложить ответственность на третью сторону не вызвала сочувствия.
Сообщение от команды Wacom: pic.twitter.com/u06PNCvmhU
- Wacom (@wacom) 9 января 2024 года
Лига Легенд
League of Legends стала еще одним брендом, пострадавшим от отвратительного использования искусственного интеллекта.
Хотя это, возможно, более спорный или пограничный пример, в нем, безусловно, присутствуют признаки искусственного интеллекта, которые можно заметить в некоторых компонентах и частях тела неловкой формы.
За последние несколько дней компания Wizards of the Coast была поймана на использовании искусственного интеллекта в рекламных кампаниях после того, как заявила, что не будет этого делать. Wacom тоже поймали и удалили, что безумие, учитывая их продукцию, и, похоже, Apex Legends тоже. Работа идет в режиме реального времени, меня тошнит. pic.twitter.com/EGBA1INMPZ
- Рид Саутен (@Rahll) 7 января 2024 года
Расплата для компаний, занимающихся искусственным интеллектом?
В 2024 году судебные разбирательства продолжились, и авторы Николас Басбанес и Николас Гейдж подача жалобы Утверждая, что OpenAI и Microsoft незаконно использовали их письменные работы, это последний случай с тех пор, как Декабрьский иск "Нью-Йорк Таймс.
Иск NYT, в частности, может иметь колоссальные последствия для сектора ИИ.
Алекс Коннок, старший научный сотрудник бизнес-школы Saïd при Оксфордском университете, подчеркнул потенциальные последствия, заявив: "Если Times выиграет дело, это может стать катастрофой для всей индустрии искусственного интеллекта".
Он подробно остановился на последствиях, отметив, что "утрата принципа, согласно которому добросовестная сделка может позволить учиться на материалах третьих лиц, станет ударом для всей индустрии".
Доктор Гэри Маркус, участвовавший в исследовании Midjourney IEEE, также назвал 2024 год "годом иска об искусственном интеллекте", и есть вопросы о том, не может ли это, в сочетании с регулированием и потенциальным дефицитом оборудования, стать сигналом "зимы ИИ", когда пыл индустрии в развитии охладеет.
2024 𝙙𝙚𝙛𝙞𝙣𝙞𝙩𝙚𝙡𝙮 станет годом судебного разбирательства в GenAI.
Если вы хотите узнать, почему, и почему GenAI, вероятно, проиграет многие из этих исков или будет вынуждена урегулировать их, ознакомьтесь с несколькими последними постами на моем (бесплатном) сайте 𝖲𝗎𝖻𝗌𝗍𝖺𝖼𝗄, Marcus on AI. https://t.co/cO4bqKkbsa
- Гэри Маркус (@GaryMarcus) 8 января 2024 года
Коннок также высказал предположение о более широких последствиях этого потока исков, объяснив: "Если OpenAI проиграет дело, это откроет возможность для всех других производителей контента, которые считают, что их контент подвергся сканированию (а это практически все), и нанесет ущерб в масштабах всей индустрии".
По мнению Коннока, "почти неизбежно произойдет то, что NY Times пойдет на соглашение, получив более выгодную монетизацию за использование своего контента".
Осознание того, что в индустрии ИИ есть хоть какие-то бреши, будет иметь огромное значение как для крупных компаний, таких как NYT, так и для независимых создателей.
Джеймс Гриммельманн, профессор цифрового и информационного права в Корнелле, заявил: "Владельцы авторских прав выстраиваются в очередь, чтобы наброситься на генеративный ИИ, как на гигантскую пиньяту, сплетенную из их произведений. 2024 год, вероятно, станет годом, когда мы узнаем, есть ли внутри деньги".
Насколько сильна защита индустрии? Пока что разработчики ИИ держатся за свои аргументы в пользу "добросовестного использования", защищаясь тем, что большинство популярных наборов данных были созданы не ими, а другими организациями, что затушевывает их вину.
Технологические компании умеют бороться с юридическими обязательствами, стоящими на пути НИОКР. Не стоит забывать и о том, что ИИ открывает возможности для правительств, стремящихся к "эффективности" и другим преимуществам, что смягчает их сопротивление.
Правительство Великобритании, например, даже рассматривало возможность сделать исключение из авторского права для компаний, занимающихся разработкой искусственного интеллекта, но отказалось от этой идеи после мощного сопротивления и обращения в парламентский комитет.
Что касается стратегии, то в беседе с LA Times Уильям Фитцджеральд, партнер агентства Worker и бывший член команды Google по вопросам государственной политики, сказал, что большие технологии начать активную лоббистскую кампанию, возможно, по образцу тактики, которую ранее использовали такие технологические гиганты, как Google.
Это предполагает сочетание юридической защиты, кампаний по связям с общественностью и лоббистских усилий - тактика, которая была особенно заметна в прошлых громких делах, таких как борьба с Законом об остановке онлайн-пиратства (SOPA) и судебные разбирательства с Google Books.
Фицджеральд отмечает, что OpenAI, похоже, идет по тому же пути, что и Google, не только в своем подходе к рассмотрению жалоб на авторские права, но и в своей практике найма.
Он отмечает: "Похоже, OpenAI повторяет лоббистскую схему Google. Они наняли бывших защитников Google, чтобы те повлияли на ту же самую схему, которая была столь успешной для Google на протяжении десятилетий".
Анализ Фитцджеральда предполагает, что индустрия искусственного интеллекта, как и другие технологические отрасли до нее, может полагаться на мощные лоббистские усилия и стратегические маневры в области государственной политики, чтобы сформировать правовой ландшафт в свою пользу.
Чем все это закончится, предсказать невозможно. Но можно быть уверенным, что крупные технологические компании готовы бороться до победного конца.
