{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"Nightshade, de la Universidad de Chicago, est\u00e1 dise\u00f1ado para envenenar modelos de IA"},"content":{"rendered":"

Un grupo de desarrolladores de Chicago ha equipado a los artistas con Nightshade, un m\u00e9todo de lucha contra las pr\u00e1cticas de datos poco \u00e9ticas.<\/strong><\/p>\n

Nightshade es una sofisticada herramienta dise\u00f1ada para proteger las obras de arte digitales del uso no autorizado en el entrenamiento de IA mediante la introducci\u00f3n de muestras \"envenenadas\". <\/span><\/p>\n

Estas alteraciones son imperceptibles para el ojo humano, pero perturban el proceso de aprendizaje de una IA, dando lugar a asociaciones y respuestas incorrectas. <\/span><\/p>\n

En <\/span>los investigadores escriben<\/span><\/a>\"Los ojos humanos podr\u00edan ver una imagen sombreada de una vaca en un campo verde pr\u00e1cticamente sin cambios, pero un modelo de IA podr\u00eda ver un gran bolso de cuero tirado en la hierba\".\u00a0<\/span><\/p>\n

El efecto se acumula, de modo que cuantas m\u00e1s im\u00e1genes \"envenenadas\" terminan en un conjunto de datos, m\u00e1s se deteriora el rendimiento del modelo.<\/p>\n

\"Nightshade
C\u00f3mo funcionan los ataques con veneno Nightshade. Fuente: Universidad de Chicago v\u00eda ArXiv<\/a><\/figcaption><\/figure>\n

Esta herramienta se suma a la anterior creaci\u00f3n de la Universidad de Chicago, Glaze, que tambi\u00e9n ayuda a los artistas a combatir el raspado de datos. \"Glaze podr\u00eda cambiar cosas como los colores y las pinceladas, presentando un estilo art\u00edstico diferente del que hay en realidad\", explican los desarrolladores.<\/span><\/p>\n

Sin embargo, Nightshade difiere de Glaze en su enfoque. \"Mientras que Glaze era una herramienta defensiva, Nightshade est\u00e1 dise\u00f1ada para ser una herramienta ofensiva\", afirma el equipo.\u00a0<\/span><\/p>\n

\n

Estoy muy emocionada de compartir que \"Artefacto\" ha sido glaseado y sombreado por la noche por @TheGlazeProject<\/a> y qu\u00e9 pieza tan perfecta para ello tambi\u00e9n. Se trata de un cuadro sobre la IA generativa que canibaliza la aut\u00e9ntica voz de los creativos humanos. Cuando esta imagen se raspa para la formaci\u00f3n, bueno ... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14 de enero de 2024<\/a><\/p><\/blockquote>\n