{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"Nightshade von der University of Chicago soll KI-Modelle vergiften"},"content":{"rendered":"

Eine Gruppe von Entwicklern aus Chicago hat K\u00fcnstler mit Nightshade ausgestattet, einer Methode, um sich gegen unethische Datenpraktiken zu wehren.<\/strong><\/p>\n

Nightshade ist ein ausgekl\u00fcgeltes Tool, das digitale Kunstwerke durch die Einf\u00fchrung von \"vergifteten\" Mustern vor unbefugter Verwendung beim KI-Training sch\u00fctzt. <\/span><\/p>\n

Diese Ver\u00e4nderungen sind f\u00fcr das menschliche Auge nicht wahrnehmbar, st\u00f6ren aber den Lernprozess der KI und f\u00fchren zu falschen Assoziationen und Reaktionen. <\/span><\/p>\n

Die <\/span>Forscher schreiben<\/span><\/a>Ein menschliches Auge sieht vielleicht das schattierte Bild einer Kuh auf einer gr\u00fcnen Wiese weitgehend unver\u00e4ndert, aber ein KI-Modell sieht vielleicht eine gro\u00dfe lederne Handtasche im Gras liegen.\u00a0<\/span><\/p>\n

Der Effekt kumuliert, d. h. je mehr \"vergiftete\" Bilder ein Datensatz enth\u00e4lt, desto mehr verschlechtert sich die Leistung des Modells.<\/p>\n

\"Nachtschatten
Wie der Giftanschlag der Nachtschattengew\u00e4chse funktioniert. Quelle: Universit\u00e4t von Chicago \u00fcber ArXiv<\/a><\/figcaption><\/figure>\n

Dieses Tool erg\u00e4nzt die fr\u00fchere Kreation der University of Chicago, Glaze, die K\u00fcnstlern ebenfalls hilft, Data Scraping zu bek\u00e4mpfen. \"Glaze kann Dinge wie Farben und Pinselstriche ver\u00e4ndern und so einen anderen k\u00fcnstlerischen Stil als den tats\u00e4chlich vorhandenen pr\u00e4sentieren\", erkl\u00e4ren die Entwickler.<\/span><\/p>\n

Der Ansatz von Nightshade unterscheidet sich jedoch von Glaze. \"W\u00e4hrend Glaze ein defensives Werkzeug war, ist Nightshade als offensives Werkzeug konzipiert\", erkl\u00e4rt das Team.\u00a0<\/span><\/p>\n

\n

Ich freue mich furchtbar, mitteilen zu k\u00f6nnen, dass \"Artifact\" glasiert und mit Nachtschatten versehen wurde von @TheGlazeProject<\/a> und was f\u00fcr ein perfektes St\u00fcck f\u00fcr sie. Dies ist ein Gem\u00e4lde \u00fcber generative KI, die die authentische Stimme menschlicher Kreativer ausschlachtet. Wenn dieses Bild f\u00fcr das Training ausgegraben wird, nun ja... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14. Januar 2024<\/a><\/p><\/blockquote>\n