A empresa de capital de risco Andreessen Horowitz, também conhecida como a16z, foi um dos primeiros investidores em gigantes da tecnologia como o Facebook e a Lyft. A sua decisão de investir na plataforma de IA generativa Civitai está a ultrapassar os limites éticos.
Civitai é uma plataforma de código aberto onde os entusiastas da Stable Diffusion podem partilhar a sua arte gerada por IA e outros recursos. Alguns desses recursos também estão a ser utilizados para criar pornografia não consensual.
O Stable Diffusion é bastante bom logo à partida, mas pode torná-lo ainda melhor ajustando o modelo. LoRA (Low-Rank Adaptation) é uma técnica para afinar modelos de difusão como o Stable Diffusion para obter uma boa qualidade na geração de um tipo específico de imagem.
A utilização de um LoRA treina a Difusão Estável em novos conceitos, como personagens específicos, estilos artísticos ou estética visual.
Se estiver à procura de um LoRA específico, o Civitai é um ótimo recurso. Mas apesar de os Ts e Cs da plataforma proibirem expressamente o alojamento de conteúdos "maduros", há muitos LoRAs alojados no site que lhe podem permitir fazer as suas próprias fotos NSFW em casa.
10/ A CivitAi está repleta de utilização não consentida de imagens de celebridades, políticos e pessoas.
Em que momento é que responsabilizamos empresas como a CivitAI por todos estes danos? Será que também podemos responsabilizar empresas como a @a16z responsável por investir conhecendo os danos? pic.twitter.com/BxMUx9JPC8
- Karla Ortiz (@kortizart) 15 de novembro de 2023
Prémios
A nova opção "Bounties" do Civitai permite aos utilizadores pedir à comunidade Civitai que crie um LoRA personalizado e recompensar o melhor com a moeda virtual do Civitai.
Esta opção levou a que muitos utilizadores solicitassem a modelos que gerassem imagens de celebridades, influenciadores ou mesmo de pessoas privadas, muitas vezes sem roupa ou envolvidas em actos sexuais.
A recompensa por pelo menos um particular foi alegadamente encontrado por 404 Media. A pessoa que pediu o modelo disse que a fotografia era da sua mulher, mas uma investigação mais aprofundada levou à conta de Facebook da mulher, que dizia ser solteira.
Vários programadores recusaram a recompensa, mas um utilizador acabou por criar o modelo de IA que está agora disponível para qualquer pessoa descarregar no Civitai.
Nem tudo é mau
Como muitas plataformas em linha, a maior parte do conteúdo do Civitai é inofensivo, mas a sua abordagem comunitária de fonte aberta é vulnerável à utilização indevida por uma minoria crescente de utilizadores.
O Civitai tem cerca de 3 milhões de utilizadores, dos quais cerca de 10.000 criadores únicos carregam novos modelos. O Civitai diz que as recompensas que pedem a imagem de pessoas reais representam apenas 10% dos pedidos.
E há um bom argumento para criar este tipo de modelos de IA. Justin Maier, diretor executivo da Civitai, afirma que vê uma oportunidade para as pessoas licenciarem e venderem as suas imagens a marcas para utilização em publicidade.
Um modelo de moda, por exemplo, normalmente só poderia fazer uma sessão fotográfica de cada vez. Licenciar e vender a sua imagem a uma empresa de vestuário poderia aumentar o seu potencial de ganhos sem ter de se colocar novamente em frente à câmara.
O sócio da Andreessen Horowitz, Brian Kim, afirmou num comunicado: "O nosso investimento na empresa só irá potenciar algo que já está a funcionar incrivelmente bem, contribuindo para um mundo onde qualquer indivíduo pode tirar partido do que a maior mudança tecnológica da nossa geração - a IA - tem para oferecer".
O problema é que alguns desses indivíduos estão a utilizar a IA de uma forma extremamente prejudicial. O facto de se sobrecarregar o Civitai com dinheiro do a16z não vai certamente impedir que isso aconteça.
