A ferramenta de envenenamento de dados da Universidade de Chicago, Nightshade, acumulou mais de 250.000 downloads em apenas cinco dias após a sua estreia em 18 de janeiro de 2024.
Concebida para capacitar os artistas visuais na luta contra a utilização não autorizada do seu trabalho por modelos de IA, a Nightshade oferece uma abordagem inovadora ao "envenenar" modelos, interrompendo efetivamente a sua capacidade de aprender com as imagens em que foram treinados.
Este processo funciona alterando subtilmente as imagens ao nível dos píxeisfazendo-os parecer diferentes dos modelos de IA sem comprometer a sua integridade visual para o olho humano.
Quando um modelo de IA é treinado com imagens envenenadas, os seus resultados tornam-se defeituosos, protegendo efetivamente os artistas da recolha de dados a longo prazo.
Os criadores de IA vão querer evitar prejudicar os seus modelos treinando em imagens envenenadas, o que coloca a bola no seu campo.
Ou concebem uma solução ou alteram as suas práticas de recolha de dados para evitar obras protegidas por direitos de autor susceptíveis de serem envenenadas.
O Nightshade funciona melhor quando utilizado em grande escala - quanto mais imagens envenenadas entrarem num modelo de IA, mais forte será o impacto.
Se, em teoria, todas as imagens de um conjunto de dados estivessem envenenadas, então o modelo de IA teria dificuldade em gerar algo coerente - os seus resultados seriam uma confusão de falhas.
Numa escala mais baixa, as imagens envenenadas manipulam o modelo para que este aprenda falsas associações, o que significa que uma mensagem de um "gato numa nuvem" pode produzir algo que se parece com "uma mala de mão num campo".
Embora as empresas de IA já disponham de grandes quantidades de dados na ponta dos dedos, se não conseguirem criar conjuntos de dados novos e actuais, os modelos acabarão por perder o contacto com a realidade.
Ben Zhao, responsável pelo projeto e professor de informática na universidade, mostrou-se surpreendido com a receção da ferramenta, afirmando VentureBeat"Continuo a subestimá-lo. A reação é simplesmente superior a tudo o que imaginávamos".
Esta afirmação foi repetida numa declaração da equipa nas redes sociais, que salientou a procura sem precedentes: "A procura de Nightshade tem sido fora de série", afirmaram, referindo que o fluxo de descarregamentos a nível mundial tinha momentaneamente sobrecarregado a infraestrutura de rede da universidade, que inicialmente pensaram poder tratar-se de um ataque informático.
A procura de nightshade tem sido fora de série. Os pedidos globais saturaram de facto a nossa ligação à rede do campus. (Não há ataque de DOS, apenas downloads legítimos). Nós estamos adicionando dois links de espelhos rápidos para os binários do nightshade.
Ganhar: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glaze na UChicago (@TheGlazeProject) 20 de janeiro de 2024
A ferramenta é a mais recente de uma série de esforços da equipa, depois da Glaze, outra ferramenta destinada a enganar os modelos de IA sobre o estilo de uma obra de arte. Os criadores estão atualmente a explorar formas de integrar o Nightshade e o Glaze, oferecendo uma defesa em camadas para conteúdos digitais.
O Nightshade é bastante complexo e exige muitos recursos, sendo necessário um computador robusto para o executar.
Envenenar várias imagens também consome muito tempo, mas uma vez feito, está feito. A interface de utilizador do Nightshade, apesar de não ser particularmente apelativa, é bastante intuitiva, guiando os utilizadores através do processo com definições simples e produzindo resultados num período de 30 a 180 minutos, dependendo dos parâmetros escolhidos.
Artistas e entusiastas da tecnologia estão a utilizar a ferramenta, com alguns a defenderem a utilização generalizada do Nightshade em todos os conteúdos digitais pessoais para diluir o conjunto de dados para os modelos de IA. A força dos números, como se costuma dizer.
O luta dos artistas contra os criadores de IA que utilizam dados de direitos de autor tem sido imensa este ano, com artistas de todos os quadrantes do espetro criativo a reunirem-se no X e noutras plataformas de redes sociais, dando ouvidos ao apelo de defensores como Reid Southen e Jon Lam.
250 mil downloads para Nightshade!! Vamos fazer Shade/Glaze e carregar. O download é apenas o primeiro passo! Parabéns ao @TheGlazeProject
descarregue aqui! Comece a envenenar a sua arte AGORA!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30 de janeiro de 2024
Não é só com os artistas que os criadores de IA têm de se preocupar - também estão a lutar contra uma série de acções judiciais por direitos de autor e lutando aumento da procura de energia e a escassez iminente de semicondutores.
Embora o Nightshade ainda apresente alguma complexidade na sua utilização, existem planos para o integrar com a aplicação social e de portefólio Cara, atualmente em versão beta aberta, o que indicia uma adoção mais ampla.
Eventualmente, o Nightshade poderia ser alojado totalmente na nuvem, tornando-o altamente acessível.
À medida que o panorama digital continua a evoluir, ferramentas como a Nightshade representam uma solução técnica e um símbolo da luta contínua pelo controlo e pelo respeito na era da IA.
Trata-se de mais uma "corrida à IA" num sector atualmente muito tenso.
