A ferramenta de envenenamento de dados da Universidade de Chicago, Nightshade, acumulou mais de 250.000 downloads em apenas cinco dias ap\u00f3s a sua estreia em 18 de janeiro de 2024.\u00a0<\/b><\/p>\n
Concebida para capacitar os artistas visuais na luta contra a utiliza\u00e7\u00e3o n\u00e3o autorizada do seu trabalho por modelos de IA, a Nightshade oferece uma abordagem inovadora ao \"envenenar\" modelos, interrompendo efetivamente a sua capacidade de aprender com as imagens em que foram treinados.<\/span><\/p>\n Este processo <\/span>funciona alterando subtilmente as imagens ao n\u00edvel dos p\u00edxeis<\/span><\/a>fazendo-os parecer diferentes dos modelos de IA sem comprometer a sua integridade visual para o olho humano.\u00a0<\/span><\/p>\n Quando um modelo de IA \u00e9 treinado com imagens envenenadas, os seus resultados tornam-se defeituosos, protegendo efetivamente os artistas da recolha de dados a longo prazo. <\/span><\/p>\n Os criadores de IA v\u00e3o querer evitar prejudicar os seus modelos treinando em imagens envenenadas, o que coloca a bola no seu campo.<\/span><\/p>\n Ou concebem uma solu\u00e7\u00e3o ou alteram as suas pr\u00e1ticas de recolha de dados para evitar obras protegidas por direitos de autor suscept\u00edveis de serem envenenadas.\u00a0<\/span><\/p>\n O Nightshade funciona melhor quando utilizado em grande escala - quanto mais imagens envenenadas entrarem num modelo de IA, mais forte ser\u00e1 o impacto.\u00a0<\/span><\/p>\n Se, em teoria, todas as imagens de um conjunto de dados estivessem envenenadas, ent\u00e3o o modelo de IA teria dificuldade em gerar algo coerente - os seus resultados seriam uma confus\u00e3o de falhas.\u00a0<\/span><\/p>\n Numa escala mais baixa, as imagens envenenadas manipulam o modelo para que este aprenda falsas associa\u00e7\u00f5es, o que significa que uma mensagem de um \"gato numa nuvem\" pode produzir algo que se parece com \"uma mala de m\u00e3o num campo\".\u00a0<\/span><\/p>\n Embora as empresas de IA j\u00e1 disponham de grandes quantidades de dados na ponta dos dedos, se n\u00e3o conseguirem criar conjuntos de dados novos e actuais, os modelos acabar\u00e3o por perder o contacto com a realidade.<\/p>\n Ben Zhao, respons\u00e1vel pelo projeto e professor de inform\u00e1tica na universidade, mostrou-se surpreendido com a rece\u00e7\u00e3o da ferramenta, afirmando <\/span>VentureBeat<\/span><\/a>\"Continuo a subestim\u00e1-lo. A rea\u00e7\u00e3o \u00e9 simplesmente superior a tudo o que imagin\u00e1vamos\".\u00a0<\/span><\/p>\n Esta afirma\u00e7\u00e3o foi repetida numa declara\u00e7\u00e3o da equipa nas redes sociais, que salientou a procura sem precedentes: \"A procura de Nightshade tem sido fora de s\u00e9rie\", afirmaram, referindo que o fluxo de descarregamentos a n\u00edvel mundial tinha momentaneamente sobrecarregado a infraestrutura de rede da universidade, que inicialmente pensaram poder tratar-se de um ataque inform\u00e1tico.\u00a0<\/span><\/p>\n A procura de nightshade tem sido fora de s\u00e9rie. Os pedidos globais saturaram de facto a nossa liga\u00e7\u00e3o \u00e0 rede do campus. (N\u00e3o h\u00e1 ataque de DOS, apenas downloads leg\u00edtimos). N\u00f3s estamos adicionando dois links de espelhos r\u00e1pidos para os bin\u00e1rios do nightshade.<\/p>\n Ganhar: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze na UChicago (@TheGlazeProject) 20 de janeiro de 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n