Венчурная компания Andreessen Horowitz, также известная как a16z, была одним из первых инвесторов в таких технологических гигантов, как Facebook и Lyft. Ее решение инвестировать в платформу генеративного искусственного интеллекта Civitai расширяет этические границы.
Civitai это платформа с открытым исходным кодом, где энтузиасты Stable Diffusion могут делиться своим искусством, созданным с помощью ИИ, и другими ресурсами. Некоторые из этих ресурсов также используются для создания порно без обязательств.
Стабильная диффузия довольно хороша прямо из коробки, но вы можете сделать ее еще лучше, точно настроив модель. LoRA (Low-Rank Adaptation) - это техника тонкой настройки диффузионных моделей, таких как Stable Diffusion, для получения очень хороших результатов при создании определенного типа изображений.
Использование LoRA тренирует Stable Diffusion на новых концепциях, таких как конкретные персонажи, художественные стили или визуальная эстетика.
Если вы ищете конкретный LoRA, то Civitai - отличный ресурс. Но даже несмотря на то, что в правилах платформы четко прописан запрет на размещение "зрелого" контента, на сайте есть множество LoRA, которые позволят вам сделать свои собственные NSFW-ролики у себя дома.
10/ CivitAi завалены несанкционированным использованием изображений знаменитостей, политиков и людей.
В какой момент мы должны призвать компании вроде CivitAI к ответу за весь этот вред? Должны ли мы также привлекать к ответственности такие компании, как @a16z ответственность за инвестирование, зная о вреде? pic.twitter.com/BxMUx9JPC8
- Карла Ортис (@kortizart) 15 ноября 2023 года
Баунти
Новая опция Civitai "Bounties" позволяет пользователям попросить сообщество Civitai сделать пользовательский LoRA, а затем наградить лучшего виртуальной валютой Civitai.
Эта возможность привела к тому, что многие пользователи просят моделей создать изображения знаменитостей, влиятельных лиц или даже частных лиц, часто без одежды или вовлеченных в сексуальные действия.
По крайней мере, за одного частного лица была назначена награда. по сообщениям, найденным 404 Media. Человек, обратившийся к модели, сказал, что на снимке его жена, но дальнейшее расследование привело к тому, что в Facebook появился аккаунт женщины, где было указано, что она не замужем.
Несколько разработчиков отказались от вознаграждения, но один пользователь все же создал модель ИИ, которая теперь доступна для скачивания на Civitai.
Не все так плохо
Как и многие другие онлайн-платформы, большая часть контента на Civitai безвредна, но подход сообщества с открытым исходным кодом уязвим для злоупотреблений со стороны растущего меньшинства пользователей.
У Civitai около 3 миллионов пользователей, из которых около 10 000 уникальных создателей загружают новые модели. Civitai утверждает, что запросы на сходство с реальными людьми составляют всего 10% запросов.
И есть веские аргументы в пользу создания подобных моделей ИИ. Генеральный директор Civitai Джастин Майер говорит, что он видит возможность для людей лицензировать и продавать свои подобия брендам для использования в рекламе.
Модель, например, обычно может участвовать только в одной съемке за раз. Лицензирование и продажа ее образа компании, производящей одежду, может увеличить ее заработок без необходимости снова вставать перед камерой.
Партнер Andreessen Horowitz Брайан Ким сказал в своем заявлении: "Наши инвестиции в компанию только усилят то, что уже работает невероятно хорошо, способствуя созданию мира, в котором любой человек сможет воспользоваться преимуществами крупнейшего технологического сдвига нашего поколения - искусственного интеллекта".
Проблема в том, что некоторые из них используют ИИ крайне пагубным образом. Повышение стоимости Цивитаи за счет денег a16z, конечно, не остановит это.
