{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"O Nightshade da Universidade de Chicago foi concebido para envenenar modelos de IA"},"content":{"rendered":"<p><strong>Um grupo de programadores de Chicago equipou os artistas com o Nightshade, um m\u00e9todo de luta contra pr\u00e1ticas de dados pouco \u00e9ticas.<\/strong><\/p>\n<p><span style=\"font-weight: 400;\">O Nightshade \u00e9 uma ferramenta sofisticada concebida para proteger obras de arte digitais contra a utiliza\u00e7\u00e3o n\u00e3o autorizada no treino de IA, introduzindo amostras \"venenosas\". <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Estas altera\u00e7\u00f5es s\u00e3o impercept\u00edveis ao olho humano, mas perturbam o processo de aprendizagem da IA, conduzindo a associa\u00e7\u00f5es e respostas incorrectas. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">O <\/span><a href=\"https:\/\/nightshade.cs.uchicago.edu\/whatis.html\"><span style=\"font-weight: 400;\">os investigadores escrevem<\/span><\/a><span style=\"font-weight: 400;\">\"Os olhos humanos podem ver uma imagem sombreada de uma vaca num campo verde praticamente inalterada, mas um modelo de IA pode ver uma grande bolsa de couro deitada na relva\".\u00a0<\/span><\/p>\n<p>O efeito acumula-se, pelo que quanto mais imagens \"envenenadas\" existirem num conjunto de dados, mais o desempenho do modelo se deteriora.<\/p>\n<figure id=\"attachment_9378\" aria-describedby=\"caption-attachment-9378\" style=\"width: 1024px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-9378 size-large\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-1024x256.png\" alt=\"Nightshade AI\" width=\"1024\" height=\"256\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-1024x256.png 1024w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-300x75.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-768x192.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-370x93.png 370w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-800x200.png 800w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-740x185.png 740w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-20x5.png 20w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2-192x48.png 192w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison2.png 1276w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption id=\"caption-attachment-9378\" class=\"wp-caption-text\">Como funcionam os ataques de veneno de Nightshade. Fonte: <a href=\"https:\/\/arxiv.org\/pdf\/2310.13828.pdf\">Universidade de Chicago via ArXiv<\/a><\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Esta ferramenta vem juntar-se \u00e0 anterior cria\u00e7\u00e3o da Universidade de Chicago, Glaze, que tamb\u00e9m ajuda os artistas a combater a recolha de dados. \"O Glaze pode mudar coisas como cores e pinceladas, apresentando um estilo art\u00edstico diferente do que est\u00e1 realmente l\u00e1\", explicam os criadores.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, Nightshade diverge de Glaze na abordagem. \"Enquanto o Glaze era uma ferramenta defensiva, o Nightshade foi concebido para ser uma ferramenta ofensiva\", afirma a equipa.\u00a0<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">\u00c9 com grande entusiasmo que partilho que \"Artifact\" foi envidra\u00e7ado e Nightshaded por <a href=\"https:\/\/twitter.com\/TheGlazeProject?ref_src=twsrc%5Etfw\">@TheGlazeProject<\/a> e que pe\u00e7a perfeita para ele tamb\u00e9m. Esta \u00e9 uma pintura sobre a IA generativa que canibaliza a voz aut\u00eantica dos criativos humanos. Quando esta imagem \u00e9 raspada para treino, bem... <a href=\"https:\/\/t.co\/0VNFIyabc2\">pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n<p>- Kelly McKernan (@Kelly_McKernan) <a href=\"https:\/\/twitter.com\/Kelly_McKernan\/status\/1746577016407622064?ref_src=twsrc%5Etfw\">14 de janeiro de 2024<\/a><\/p><\/blockquote>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><\/p>\n<h2>Como funciona o Nightshade em cinco passos<\/h2>\n<p><span style=\"font-weight: 400;\">O Nightshade \u00e9 uma ferramenta inteligente que utiliza as fun\u00e7\u00f5es de aprendizagem autom\u00e1tica envolvidas na forma\u00e7\u00e3o de modelos contra o pr\u00f3prio sistema, envenenando o processo de aprendizagem e conduzindo a resultados mais fracos em diferentes modelos.\u00a0<\/span><\/p>\n<p><b>Compreender a vulnerabilidade<\/b><\/p>\n<p><span style=\"font-weight: 400;\">O ataque Nightshade explora uma fraqueza espec\u00edfica nos modelos geradores de texto para imagem. Estes modelos de IA s\u00e3o treinados em vastos conjuntos de dados de imagens e correspondentes descri\u00e7\u00f5es de texto. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">No entanto, a equipa da Universidade de Chicago descobriu que a quantidade de dados de treino \u00e9 bastante limitada para determinados prompts ou temas espec\u00edficos. Este conjunto de dados limitados para prompts espec\u00edficos torna estes modelos vulner\u00e1veis a ataques de envenenamento de dados direccionados.<\/span><\/p>\n<p><b>O conceito por detr\u00e1s de Nightshade<\/b><\/p>\n<p><span style=\"font-weight: 400;\">O Nightshade \u00e9 um m\u00e9todo sofisticado concebido para executar o que \u00e9 conhecido como um ataque de envenenamento espec\u00edfico do prompt.<\/span><\/p>\n<p><span style=\"font-weight: 400;\"> Em termos mais simples, \u00e9 como introduzir um pequeno erro, cuidadosamente concebido, no processo de aprendizagem da IA, que conduz a erros significativos e direccionados quando a IA gera imagens com base em determinadas instru\u00e7\u00f5es. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">A principal carater\u00edstica do Nightshade \u00e9 a sua capacidade de produzir amostras \"envenenadas\" que parecem normais aos olhos humanos, mas que s\u00e3o radicalmente diferentes na forma como a IA as percepciona e aprende com elas.<\/span><\/p>\n<p><b>Cria\u00e7\u00e3o de amostras de veneno<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Para executar um ataque Nightshade, os investigadores come\u00e7am por gerar aquilo a que chamam \"imagens \u00e2ncora\". Trata-se de imagens de um conceito n\u00e3o relacionado com o objetivo real do ataque. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por exemplo, se o conceito-alvo for \"c\u00e3o\", as imagens-\u00e2ncora podem ser de \"gatos\". Estas imagens-\u00e2ncora s\u00e3o geradas por um modelo de IA que os utilizadores executam no seu PC.<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Em seguida, os investigadores encontram imagens reais do conceito-alvo (como c\u00e3es) e modificam-nas subtilmente para que se alinhem com as caracter\u00edsticas das imagens-\u00e2ncora na perce\u00e7\u00e3o da IA.<\/span><\/p>\n<figure id=\"attachment_9377\" aria-describedby=\"caption-attachment-9377\" style=\"width: 1024px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-9377 size-large\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-1024x501.png\" alt=\"AI Nightshade\" width=\"1024\" height=\"501\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-1024x501.png 1024w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-300x147.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-768x376.png 768w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-370x181.png 370w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-800x391.png 800w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-740x362.png 740w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-20x10.png 20w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison-98x48.png 98w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/Poison.png 1413w\" sizes=\"auto, (max-width: 1024px) 100vw, 1024px\" \/><figcaption id=\"caption-attachment-9377\" class=\"wp-caption-text\">Um exemplo de como as imagens s\u00e3o progressivamente envenenadas pela adi\u00e7\u00e3o de mais amostras. Fonte: <a href=\"https:\/\/arxiv.org\/pdf\/2310.13828.pdf\">Universidade de Chicago via ArXiv<\/a>.<\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Para um humano, estas imagens modificadas continuam a parecer c\u00e3es, mas para a IA, assemelham-se muito a gatos. Embora este possa ser um conceito dif\u00edcil de compreender, \u00e9 importante lembrar que as formas e os formatos que criam as imagens s\u00e3o sempre fundamentalmente semelhantes.\u00a0<\/span><\/p>\n<p>As altera\u00e7\u00f5es s\u00e3o chamadas perturba\u00e7\u00f5es advers\u00e1rias. S\u00e3o cuidadosamente calculadas para deslocar a representa\u00e7\u00e3o da imagem no espa\u00e7o de caracter\u00edsticas da IA da regi\u00e3o associada aos gatos para a regi\u00e3o associada aos c\u00e3es.<\/p>\n<p><b>Como o ataque afecta os modelos de IA<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Quando um modelo generativo de IA \u00e9 treinado nestas amostras envenenadas, come\u00e7a a associar as caracter\u00edsticas do conceito n\u00e3o relacionado (gatos) ao conceito alvo (c\u00e3es). <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Consequentemente, quando solicitado a gerar imagens de c\u00e3es, o modelo de IA pode produzir imagens de gatos. Isto deve-se ao facto de o modelo entender o que \u00e9 um \"c\u00e3o\" de forma distorcida devido aos dados envenenados.<\/span><\/p>\n<p>Embora isto n\u00e3o \"quebre\" completamente um modelo de IA, torna-o menos eficaz e mais imprevis\u00edvel, o que pode certamente afetar a usabilidade.<\/p>\n<p>As empresas de IA ir\u00e3o provavelmente lutar contra a Nightshade e t\u00e9cnicas semelhantes, mas isso vai exigir tempo e esfor\u00e7o.<\/p>\n<p><b>Impacto<\/b><\/p>\n<p><span style=\"font-weight: 400;\">Um dos principais impactos do ataque Nightshade \u00e9 o seu efeito de \"sangramento\". Isto significa que o envenenamento de um conceito pode afetar conceitos relacionados. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Por exemplo, envenenar o conceito de \"c\u00e3es\" pode tamb\u00e9m afetar a forma como o modelo gera imagens de animais relacionados, como \"lobos\" ou \"raposas\".<\/span><\/p>\n<figure id=\"attachment_9389\" aria-describedby=\"caption-attachment-9389\" style=\"width: 711px\" class=\"wp-caption aligncenter\"><img loading=\"lazy\" decoding=\"async\" class=\"wp-image-9389 size-full\" src=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3.png\" alt=\"AI Nightshade\" width=\"711\" height=\"393\" srcset=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3.png 711w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3-300x166.png 300w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3-370x205.png 370w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3-20x11.png 20w, https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/poison3-87x48.png 87w\" sizes=\"auto, (max-width: 711px) 100vw, 711px\" \/><figcaption id=\"caption-attachment-9389\" class=\"wp-caption-text\">Isto representa um modelo em que o conceito \"c\u00e3o\" \u00e9 envenenado. Sem serem especificamente visados, os conceitos relacionados<br \/>s\u00e3o corrompidos pelo envenenamento (chamado de efeito de sangramento). Fonte: <a href=\"https:\/\/arxiv.org\/pdf\/2310.13828.pdf\">Universidade de Chicago via ArXiv<\/a><\/figcaption><\/figure>\n<p><span style=\"font-weight: 400;\">Al\u00e9m disso, quando v\u00e1rios conceitos s\u00e3o envenenados num modelo, isso pode quebrar a capacidade do modelo de gerar imagens coerentes para uma vasta gama de solicita\u00e7\u00f5es.<\/span><\/p>\n<h2>Como \u00e9 que os artistas podem utilizar o Nightshade<\/h2>\n<p><span style=\"font-weight: 400;\">O Nightshade \u00e9 uma ferramenta que pode descarregar e utilizar, mas consome muitos recursos, exigindo uma GPU Nvidia compat\u00edvel com pelo menos 4G de mem\u00f3ria. <\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este processo pode ser simplificado no futuro, ou podem existir servi\u00e7os na nuvem onde pode simplesmente carregar as suas imagens para que o Nightshade'd as processe por si.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Eis como utilizar o Nightshade:\u00a0<\/span><\/p>\n<ol>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Seleccione o seu trabalho art\u00edstico<\/b><span style=\"font-weight: 400;\">: Pode arrastar uma \u00fanica imagem para o espa\u00e7o reservado \u00e0 imagem ou selecionar v\u00e1rias imagens utilizando o bot\u00e3o \"Selecionar...\".<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Ajustar os par\u00e2metros<\/b><span style=\"font-weight: 400;\">: A intensidade determina a for\u00e7a do efeito de Nightshade. Uma intensidade mais elevada leva a uma perturba\u00e7\u00e3o mais potente, mas pode causar altera\u00e7\u00f5es vis\u00edveis no seu trabalho art\u00edstico. A qualidade de renderiza\u00e7\u00e3o indica o tempo de c\u00e1lculo para encontrar o n\u00edvel \u00f3timo de veneno. Uma qualidade mais alta equivale a um veneno mais forte, mas requer mais tempo. Se tiveres uma GPU, este processo ser\u00e1 mais r\u00e1pido.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Escolher o diret\u00f3rio de sa\u00edda<\/b><span style=\"font-weight: 400;\">: Seleccione o local onde pretende guardar as imagens de sombreado noturno.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Selecionar etiqueta de veneno<\/b><span style=\"font-weight: 400;\">: O Nightshade funciona enganando a IA sobre determinados conceitos na sua imagem. Por exemplo, pode alterar imagens marcadas como \"carro\" para serem vistas como \"vaca\" pelos modelos de IA. O Nightshade sugere uma etiqueta com base na sua an\u00e1lise de conte\u00fado ao selecionar a sua imagem. Certifique-se de que a etiqueta reflecte com precis\u00e3o o conceito-chave da sua imagem e ajuste-a, se necess\u00e1rio. A efic\u00e1cia do Nightshade aumenta quando a sua imagem \u00e9 associada a esta etiqueta atrav\u00e9s de texto alternativo, legendas ou texto pr\u00f3ximo.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><b>Executar Nightshade<\/b><span style=\"font-weight: 400;\">: Depois de finalizar as suas defini\u00e7\u00f5es e confirmar a etiqueta da imagem, inicie o processo premindo o bot\u00e3o \"Run\" (Executar). As imagens alteradas ser\u00e3o guardadas no diret\u00f3rio de sa\u00edda escolhido.<\/span><\/li>\n<li style=\"font-weight: 400;\" aria-level=\"1\"><span style=\"font-weight: 400;\">Instru\u00e7\u00f5es pormenorizadas no <\/span><a href=\"https:\/\/nightshade.cs.uchicago.edu\/userguide.html\"><span style=\"font-weight: 400;\">guia do utilizador oficial aqui<\/span><\/a><span style=\"font-weight: 400;\">.<\/span><\/li>\n<\/ol>\n<div class=\"mceTemp\"><\/div>\n<h2>Rece\u00e7\u00e3o da comunidade \u00e0 rece\u00e7\u00e3o da Nightshade<\/h2>\n<p><span style=\"font-weight: 400;\">Tem havido um apoio esmagador aos artistas que tentam defender o seu trabalho da IA, mas, como sempre, h\u00e1 m\u00faltiplas fac\u00e7\u00f5es, com alguns a compararem-no a um ataque cibern\u00e9tico aos modelos de IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Em resposta aos cr\u00edticos, a equipa esclarece: \"O objetivo do Nightshade n\u00e3o \u00e9 quebrar modelos, mas aumentar o custo da forma\u00e7\u00e3o em dados n\u00e3o licenciados, de modo a que o licenciamento de imagens dos seus criadores se torne uma alternativa vi\u00e1vel\".<\/span><\/p>\n<p><span style=\"font-weight: 400;\">\"Utilizado de forma respons\u00e1vel, o Nightshade pode ajudar a dissuadir os formadores de modelos que desrespeitam os direitos de autor, as listas de exclus\u00e3o e as directivas do-not-scrape\/robots.txt\", afirmam.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">O debate em torno da recolha de dados e do treino de modelos de IA tornou-se extremamente amargo na sequ\u00eancia da controv\u00e9rsia na Midjourney e de um dil\u00favio de empresas que utilizam obras de arte geradas por IA, substituindo o trabalho humano no processo.\u00a0<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\">O Nightshade foi lan\u00e7ado!<\/p>\n<p>O Nightshade envenena os modelos de IA se a tua arte ou imagens forem tiradas sem autoriza\u00e7\u00e3o, o Glaze protege-te da imita\u00e7\u00e3o de IA. Recomenda-se que uses primeiro o Nightshade e depois o Glaze. Est\u00e1 a chegar uma vers\u00e3o que faz as duas coisas.<\/p>\n<p>Leia este t\u00f3pico para obter mais informa\u00e7\u00f5es.<\/p>\n<p>Vai apanh\u00e1-los \ud83e\udee1 <a href=\"https:\/\/t.co\/bU8EDthUcS\">https:\/\/t.co\/bU8EDthUcS<\/a> <a href=\"https:\/\/t.co\/YddNu8xmJm\">pic.twitter.com\/YddNu8xmJm<\/a><\/p>\n<p>- Reid Southen (@Rahll) <a href=\"https:\/\/twitter.com\/Rahll\/status\/1748199402928308375?ref_src=twsrc%5Etfw\">19 de janeiro de 2024<\/a><\/p><\/blockquote>\n<p><script src=\"https:\/\/platform.twitter.com\/widgets.js\" async=\"\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">De repente, parece que h\u00e1 um vazio cada vez maior entre as empresas de tecnologia que comercializam a IA como uma for\u00e7a filantr\u00f3pica e o p\u00fablico, que sente que ela est\u00e1 a invadir demasiado a cultura e a sociedade.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">De facto, o Nightshade n\u00e3o \u00e9 apenas \u00fatil para os artistas. As pessoas est\u00e3o a encorajar o maior n\u00famero poss\u00edvel de pessoas a utilizar estas ferramentas, criando um conjunto mais pequeno de dados de alta qualidade para as empresas de IA explorarem.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Mas ser\u00e1 que as empresas j\u00e1 t\u00eam dados suficientes? Talvez por agora, mas para manter os modelos contempor\u00e2neos e actualizados, os criadores de IA ter\u00e3o de introduzir novos dados nos seus sistemas a qualquer momento.\u00a0<\/span><\/p>\n<blockquote class=\"twitter-tweet\">\n<p dir=\"ltr\" lang=\"en\"><a href=\"https:\/\/twitter.com\/hashtag\/nightshade?src=hash&amp;ref_src=twsrc%5Etfw\">#nightshade<\/a><br \/>\nDica profissional: utilize o Nightshade em tudo o que carrega online (n\u00e3o apenas na sua arte), fotografias de redes sociais, fotografias di\u00e1rias sobre a sua refei\u00e7\u00e3o, fam\u00edlia, cachorros, gatinhos, selfies aleat\u00f3rias e fotografias de rua - e deixe o jogo come\u00e7ar.<\/p>\n<p>- editar ballai \ud83c\udf3f (@eballai) <a href=\"https:\/\/twitter.com\/eballai\/status\/1748404634056573339?ref_src=twsrc%5Etfw\">19 de janeiro de 2024<\/a><\/p><\/blockquote>\n<p><script src=\"https:\/\/platform.twitter.com\/widgets.js\" async=\"\" charset=\"utf-8\"><\/script><\/p>\n<p><span style=\"font-weight: 400;\">Em Glaze e Nightshade, assistimos a uma batalha tecnol\u00f3gica e \u00e9tica emergente entre criadores e empresas de IA.\u00a0<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Vai tornar-se cada vez mais interessante, e ser\u00e1 que existem formas semelhantes de enganar e envenenar os modelos lingu\u00edsticos?<\/span><\/p>\n<p><span style=\"font-weight: 400;\">Este facto, combinado com as batalhas legais, poder\u00e1 fazer com que a IA generativa entre num per\u00edodo vol\u00e1til. Vai ser um grande ano para esta tecnologia. <\/span><\/p>","protected":false},"excerpt":{"rendered":"<p>Um grupo de programadores de Chicago equipou os artistas com o Nightshade, um m\u00e9todo de luta contra pr\u00e1ticas de dados pouco \u00e9ticas. O Nightshade \u00e9 uma ferramenta sofisticada concebida para proteger as obras de arte digitais da utiliza\u00e7\u00e3o n\u00e3o autorizada no treino de IA, atrav\u00e9s da introdu\u00e7\u00e3o de amostras \"venenosas\". Estas altera\u00e7\u00f5es s\u00e3o impercept\u00edveis ao olho humano, mas perturbam o processo de aprendizagem da IA, conduzindo a associa\u00e7\u00f5es e respostas incorrectas. Os investigadores escrevem: \"Os olhos humanos podem ver uma imagem sombreada de uma vaca num campo verde praticamente inalterada, mas um modelo de IA pode ver uma grande bolsa de couro na relva\".  O efeito acumula-se, por isso, quanto mais imagens \"envenenadas\", mais imagens \"envenenadas\".<\/p>","protected":false},"author":2,"featured_media":9379,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[88],"tags":[197,234,526],"class_list":["post-9376","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-ethics","tag-copyright","tag-midjourney","tag-nightshade"],"yoast_head":"<!-- This site is optimized with the Yoast SEO plugin v27.4 - https:\/\/yoast.com\/product\/yoast-seo-wordpress\/ -->\n<title>The University of Chicago&#039;s Nightshade is designed to poison AI models | DailyAI<\/title>\n<meta name=\"description\" content=\"A group of Chicago-based developers have equipped artists with Nightshade, a method of fighting back against unethical data practices and model training in the AI industry.\u00a0\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/dailyai.com\/pt\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/\" \/>\n<meta property=\"og:locale\" content=\"pt_PT\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"The University of Chicago&#039;s Nightshade is designed to poison AI models | DailyAI\" \/>\n<meta property=\"og:description\" content=\"A group of Chicago-based developers have equipped artists with Nightshade, a method of fighting back against unethical data practices and model training in the AI industry.\u00a0\" \/>\n<meta property=\"og:url\" content=\"https:\/\/dailyai.com\/pt\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/\" \/>\n<meta property=\"og:site_name\" content=\"DailyAI\" \/>\n<meta property=\"article:published_time\" content=\"2024-01-20T16:18:52+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2024-01-26T12:21:52+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1000\" \/>\n\t<meta property=\"og:image:height\" content=\"673\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Sam Jeans\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:site\" content=\"@DailyAIOfficial\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"Sam Jeans\" \/>\n\t<meta name=\"twitter:label2\" content=\"Tempo estimado de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"7 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\\\/\\\/schema.org\",\"@graph\":[{\"@type\":\"NewsArticle\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#article\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/\"},\"author\":{\"name\":\"Sam Jeans\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\"},\"headline\":\"The University of Chicago&#8217;s Nightshade is designed to poison AI models\",\"datePublished\":\"2024-01-20T16:18:52+00:00\",\"dateModified\":\"2024-01-26T12:21:52+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/\"},\"wordCount\":1523,\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/01\\\/shutterstock_1950627238.jpg\",\"keywords\":[\"Copyright\",\"MidJourney\",\"Nightshade\"],\"articleSection\":[\"Ethics &amp; Society\"],\"inLanguage\":\"pt-PT\"},{\"@type\":\"WebPage\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/\",\"name\":\"The University of Chicago's Nightshade is designed to poison AI models | DailyAI\",\"isPartOf\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#primaryimage\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#primaryimage\"},\"thumbnailUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/01\\\/shutterstock_1950627238.jpg\",\"datePublished\":\"2024-01-20T16:18:52+00:00\",\"dateModified\":\"2024-01-26T12:21:52+00:00\",\"description\":\"A group of Chicago-based developers have equipped artists with Nightshade, a method of fighting back against unethical data practices and model training in the AI industry.\u00a0\",\"breadcrumb\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#breadcrumb\"},\"inLanguage\":\"pt-PT\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#primaryimage\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/01\\\/shutterstock_1950627238.jpg\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2024\\\/01\\\/shutterstock_1950627238.jpg\",\"width\":1000,\"height\":673,\"caption\":\"AI nightshade\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/2024\\\/01\\\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\\\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\\\/\\\/dailyai.com\\\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"The University of Chicago&#8217;s Nightshade is designed to poison AI models\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#website\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"name\":\"DailyAI\",\"description\":\"Your Daily Dose of AI News\",\"publisher\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\\\/\\\/dailyai.com\\\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"pt-PT\"},{\"@type\":\"Organization\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#organization\",\"name\":\"DailyAI\",\"url\":\"https:\\\/\\\/dailyai.com\\\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\",\"url\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"contentUrl\":\"https:\\\/\\\/dailyai.com\\\/wp-content\\\/uploads\\\/2023\\\/06\\\/Daily-Ai_TL_colour.png\",\"width\":4501,\"height\":934,\"caption\":\"DailyAI\"},\"image\":{\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/logo\\\/image\\\/\"},\"sameAs\":[\"https:\\\/\\\/x.com\\\/DailyAIOfficial\",\"https:\\\/\\\/www.linkedin.com\\\/company\\\/dailyaiofficial\\\/\",\"https:\\\/\\\/www.youtube.com\\\/@DailyAIOfficial\"]},{\"@type\":\"Person\",\"@id\":\"https:\\\/\\\/dailyai.com\\\/#\\\/schema\\\/person\\\/711e81f945549438e8bbc579efdeb3c9\",\"name\":\"Sam Jeans\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-PT\",\"@id\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"url\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"contentUrl\":\"https:\\\/\\\/secure.gravatar.com\\\/avatar\\\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g\",\"caption\":\"Sam Jeans\"},\"description\":\"Sam is a science and technology writer who has worked in various AI startups. When he\u2019s not writing, he can be found reading medical journals or digging through boxes of vinyl records.\",\"sameAs\":[\"https:\\\/\\\/www.linkedin.com\\\/in\\\/sam-jeans-6746b9142\\\/\"],\"url\":\"https:\\\/\\\/dailyai.com\\\/pt\\\/author\\\/samjeans\\\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"O Nightshade da Universidade de Chicago foi concebido para envenenar modelos de IA | DailyAI","description":"Um grupo de programadores de Chicago equipou os artistas com o Nightshade, um m\u00e9todo de luta contra pr\u00e1ticas de dados pouco \u00e9ticas e de treino de modelos na ind\u00fastria da IA.\u00a0","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/dailyai.com\/pt\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","og_locale":"pt_PT","og_type":"article","og_title":"The University of Chicago's Nightshade is designed to poison AI models | DailyAI","og_description":"A group of Chicago-based developers have equipped artists with Nightshade, a method of fighting back against unethical data practices and model training in the AI industry.\u00a0","og_url":"https:\/\/dailyai.com\/pt\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","og_site_name":"DailyAI","article_published_time":"2024-01-20T16:18:52+00:00","article_modified_time":"2024-01-26T12:21:52+00:00","og_image":[{"width":1000,"height":673,"url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg","type":"image\/jpeg"}],"author":"Sam Jeans","twitter_card":"summary_large_image","twitter_creator":"@DailyAIOfficial","twitter_site":"@DailyAIOfficial","twitter_misc":{"Escrito por":"Sam Jeans","Tempo estimado de leitura":"7 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"NewsArticle","@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#article","isPartOf":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/"},"author":{"name":"Sam Jeans","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9"},"headline":"The University of Chicago&#8217;s Nightshade is designed to poison AI models","datePublished":"2024-01-20T16:18:52+00:00","dateModified":"2024-01-26T12:21:52+00:00","mainEntityOfPage":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/"},"wordCount":1523,"publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"image":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg","keywords":["Copyright","MidJourney","Nightshade"],"articleSection":["Ethics &amp; Society"],"inLanguage":"pt-PT"},{"@type":"WebPage","@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","url":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","name":"O Nightshade da Universidade de Chicago foi concebido para envenenar modelos de IA | DailyAI","isPartOf":{"@id":"https:\/\/dailyai.com\/#website"},"primaryImageOfPage":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#primaryimage"},"image":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#primaryimage"},"thumbnailUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg","datePublished":"2024-01-20T16:18:52+00:00","dateModified":"2024-01-26T12:21:52+00:00","description":"Um grupo de programadores de Chicago equipou os artistas com o Nightshade, um m\u00e9todo de luta contra pr\u00e1ticas de dados pouco \u00e9ticas e de treino de modelos na ind\u00fastria da IA.\u00a0","breadcrumb":{"@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#breadcrumb"},"inLanguage":"pt-PT","potentialAction":[{"@type":"ReadAction","target":["https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/"]}]},{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#primaryimage","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2024\/01\/shutterstock_1950627238.jpg","width":1000,"height":673,"caption":"AI nightshade"},{"@type":"BreadcrumbList","@id":"https:\/\/dailyai.com\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/dailyai.com\/"},{"@type":"ListItem","position":2,"name":"The University of Chicago&#8217;s Nightshade is designed to poison AI models"}]},{"@type":"WebSite","@id":"https:\/\/dailyai.com\/#website","url":"https:\/\/dailyai.com\/","name":"DailyAI","description":"A sua dose di\u00e1ria de not\u00edcias sobre IA","publisher":{"@id":"https:\/\/dailyai.com\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/dailyai.com\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"pt-PT"},{"@type":"Organization","@id":"https:\/\/dailyai.com\/#organization","name":"DailyAI","url":"https:\/\/dailyai.com\/","logo":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/","url":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","contentUrl":"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/Daily-Ai_TL_colour.png","width":4501,"height":934,"caption":"DailyAI"},"image":{"@id":"https:\/\/dailyai.com\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/x.com\/DailyAIOfficial","https:\/\/www.linkedin.com\/company\/dailyaiofficial\/","https:\/\/www.youtube.com\/@DailyAIOfficial"]},{"@type":"Person","@id":"https:\/\/dailyai.com\/#\/schema\/person\/711e81f945549438e8bbc579efdeb3c9","name":"Cal\u00e7as de ganga Sam","image":{"@type":"ImageObject","inLanguage":"pt-PT","@id":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","url":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/a24a4a8f8e2a1a275b7491dc9c9f032c401eabf23c3206da4628dc84b6dac5c8?s=96&d=robohash&r=g","caption":"Sam Jeans"},"description":"Sam \u00e9 um escritor de ci\u00eancia e tecnologia que trabalhou em v\u00e1rias startups de IA. Quando n\u00e3o est\u00e1 a escrever, pode ser encontrado a ler revistas m\u00e9dicas ou a vasculhar caixas de discos de vinil.","sameAs":["https:\/\/www.linkedin.com\/in\/sam-jeans-6746b9142\/"],"url":"https:\/\/dailyai.com\/pt\/author\/samjeans\/"}]}},"_links":{"self":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/9376","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/comments?post=9376"}],"version-history":[{"count":11,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/9376\/revisions"}],"predecessor-version":[{"id":9393,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/posts\/9376\/revisions\/9393"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media\/9379"}],"wp:attachment":[{"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/media?parent=9376"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/categories?post=9376"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/dailyai.com\/pt\/wp-json\/wp\/v2\/tags?post=9376"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}