{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"Nightshade dell'Universit\u00e0 di Chicago \u00e8 progettato per avvelenare i modelli di intelligenza artificiale"},"content":{"rendered":"

Un gruppo di sviluppatori di Chicago ha dotato gli artisti di Nightshade, un metodo di lotta contro le pratiche non etiche dei dati.<\/strong><\/p>\n

Nightshade \u00e8 uno strumento sofisticato progettato per proteggere le opere d'arte digitali dall'uso non autorizzato nell'addestramento dell'intelligenza artificiale, introducendo campioni \"velenosi\". <\/span><\/p>\n

Queste alterazioni sono impercettibili all'occhio umano, ma disturbano il processo di apprendimento dell'intelligenza artificiale, portando ad associazioni e risposte errate. <\/span><\/p>\n

Il <\/span>i ricercatori scrivono<\/span><\/a>Gli occhi umani potrebbero vedere un'immagine ombreggiata di una mucca in un campo verde, ma un modello di intelligenza artificiale potrebbe vedere una grande borsa di pelle che giace nell'erba\".\u00a0<\/span><\/p>\n

L'effetto si accumula, quindi pi\u00f9 immagini \"avvelenate\" finiscono in un set di dati, pi\u00f9 le prestazioni del modello si deteriorano.<\/p>\n

\"Nightshade
Come funzionano gli attacchi del veleno Nightshade. Fonte: Universit\u00e0 di Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Questo strumento si aggiunge alla precedente creazione dell'Universit\u00e0 di Chicago, Glaze, che aiuta gli artisti a combattere il data scraping. \"Glaze pu\u00f2 cambiare cose come colori e pennellate, presentando uno stile artistico diverso da quello che c'\u00e8 in realt\u00e0\", spiegano gli sviluppatori.<\/span><\/p>\n

Nightshade si discosta tuttavia dall'approccio di Glaze. \"Mentre Glaze era uno strumento difensivo, Nightshade \u00e8 stato progettato per essere uno strumento offensivo\", afferma il team.\u00a0<\/span><\/p>\n

\n

Sono terribilmente entusiasta di annunciare che \"Artifact\" \u00e8 stato smaltato e oscurato da Nightshaded. @TheGlazeProject<\/a> e anche un'opera perfetta per l'occasione. Si tratta di un dipinto sull'IA generativa che cannibalizza la voce autentica dei creativi umani. Quando questa immagine viene raschiata per l'addestramento, beh... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14 gennaio 2024<\/a><\/p><\/blockquote>\n