{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"Nightshade van de Universiteit van Chicago is ontworpen om AI-modellen te vergiftigen"},"content":{"rendered":"

Een groep ontwikkelaars uit Chicago heeft kunstenaars uitgerust met Nightshade, een methode om terug te vechten tegen onethische gegevenspraktijken.<\/strong><\/p>\n

Nightshade is een geavanceerd hulpmiddel dat is ontworpen om digitale kunstwerken te beschermen tegen ongeautoriseerd gebruik in AI-training door 'gif'-voorbeelden te introduceren. <\/span><\/p>\n

Deze wijzigingen zijn niet waarneembaar voor het menselijk oog, maar verstoren het leerproces van een AI, wat leidt tot onjuiste associaties en reacties. <\/span><\/p>\n

De <\/span>onderzoekers schrijven<\/span><\/a>\"Menselijke ogen zien misschien een gearceerd beeld van een koe in een groen veld grotendeels onveranderd, maar een AI-model ziet misschien een grote leren tas in het gras liggen.\"\u00a0<\/span><\/p>\n

Het effect stapelt zich op, dus hoe meer 'vergiftigde' afbeeldingen er in een dataset terechtkomen, hoe meer de prestaties van het model verslechteren.<\/p>\n

\"Nachtschade
Hoe Nightshade gif aanvallen werken. Bron: Universiteit van Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Deze tool komt naast de eerdere creatie van de Universiteit van Chicago, Glaze, die kunstenaars ook helpt bij het bestrijden van dataschrapen. \"Glaze kan dingen zoals kleuren en penseelstreken veranderen en zo een andere artistieke stijl presenteren dan wat er daadwerkelijk is\", leggen de ontwikkelaars uit.<\/span><\/p>\n

Nightshade verschilt echter van Glaze in aanpak. \"Terwijl Glaze een defensieve tool was, is Nightshade ontworpen als offensieve tool,\" stelt het team.\u00a0<\/span><\/p>\n

\n

Ik ben erg blij te kunnen delen dat \"Artifact\" is Glazed en Nightshaded door @TheGlazeProject<\/a> en wat een perfect stuk ook. Dit is een schilderij over generatieve AI die de authentieke stem van menselijke creatieven kannibaliseert. Wanneer dit beeld wordt geschraapt voor training, nou... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14 januari 2024<\/a><\/p><\/blockquote>\n