Das Datenvergiftungstool Nightshade der University of Chicago wurde innerhalb von nur f\u00fcnf Tagen nach seinem Deb\u00fct am 18. Januar 2024 mehr als 250.000 Mal heruntergeladen.\u00a0<\/b><\/p>\n
Nightshade wurde entwickelt, um bildende K\u00fcnstler im Kampf gegen die unerlaubte Nutzung ihrer Werke durch KI-Modelle zu unterst\u00fctzen. Nightshade bietet einen neuartigen Ansatz, indem es die Modelle \"vergiftet\" und ihre F\u00e4higkeit, aus den Bildern zu lernen, auf denen sie trainiert wurden, effektiv unterbricht.<\/span><\/p>\n Dieser Prozess <\/span>funktioniert durch subtile Ver\u00e4nderung von Bildern auf Pixelebene<\/span><\/a>Dadurch unterscheiden sie sich von KI-Modellen, ohne ihre visuelle Integrit\u00e4t f\u00fcr das menschliche Auge zu beeintr\u00e4chtigen.\u00a0<\/span><\/p>\n Wenn ein KI-Modell auf vergifteten Bildern trainiert wird, werden seine Ergebnisse fehlerhaft und sch\u00fctzen K\u00fcnstler langfristig vor Datenabsch\u00fcrfungen. <\/span><\/p>\n KI-Entwickler werden vermeiden wollen, dass ihre Modelle durch das Training mit vergifteten Bildern Schaden nehmen, so dass sie hier am Zug sind.<\/span><\/p>\n Sie werden entweder eine L\u00f6sung entwickeln oder ihre Praktiken beim Scraping von Daten \u00e4ndern, um urheberrechtlich gesch\u00fctzte Werke zu vermeiden, die wahrscheinlich vergiftet werden.\u00a0<\/span><\/p>\n Nightshade funktioniert am besten, wenn es in gro\u00dfem Ma\u00dfstab eingesetzt wird - je mehr vergiftete Bilder ihren Weg in ein KI-Modell finden, desto st\u00e4rker ist die Wirkung.\u00a0<\/span><\/p>\n Wenn theoretisch jedes Bild in einem Datensatz vergiftet w\u00e4re, h\u00e4tte das KI-Modell Schwierigkeiten, etwas Koh\u00e4rentes zu erzeugen - seine Ergebnisse w\u00e4ren ein einziges Durcheinander.\u00a0<\/span><\/p>\n Auf einer niedrigeren Skala manipulieren vergiftete Bilder das Modell so, dass es falsche Assoziationen lernt, d. h. eine Aufforderung, eine \"Katze auf einer Wolke\" zu sehen, k\u00f6nnte zu etwas f\u00fchren, das wie \"eine Handtasche auf einem Feld\" aussieht.\u00a0<\/span><\/p>\n Zwar verf\u00fcgen KI-Unternehmen bereits \u00fcber riesige Datenmengen, doch wenn es ihnen nicht gelingt, neue, zeitgem\u00e4\u00dfe Datens\u00e4tze aufzubauen, werden die Modelle irgendwann den Bezug zur Realit\u00e4t verlieren.<\/p>\n Ben Zhao, der Leiter des Projekts und Informatikprofessor an der Universit\u00e4t, \u00e4u\u00dferte sich erstaunt \u00fcber den Zuspruch, den das Tool fand, und erkl\u00e4rte gegen\u00fcber <\/span>VentureBeat<\/span><\/a>\"Ich habe es immer noch untersch\u00e4tzt. Die Resonanz \u00fcbertrifft einfach alles, was wir uns vorgestellt haben.\"\u00a0<\/span><\/p>\n Dies wurde in einer Erkl\u00e4rung des Teams in den sozialen Medien aufgegriffen, in der die noch nie dagewesene Nachfrage hervorgehoben wurde: \"Die Nachfrage nach Nightshade hat die Charts gesprengt\", hie\u00df es, und es wurde darauf hingewiesen, dass die Flut der weltweiten Downloads kurzzeitig die Netzwerkinfrastruktur der Universit\u00e4t \u00fcberlastet hatte, was zun\u00e4chst als Cyberangriff gewertet wurde.\u00a0<\/span><\/p>\n Die Nachfrage nach Nachtschattengew\u00e4chsen hat die Grenzen des M\u00f6glichen \u00fcberschritten. Die weltweiten Anfragen haben unsere Netzwerkverbindung auf dem Campus \u00fcberlastet. (Kein Dos-Angriff, nur legale Downloads). Wir f\u00fcgen zwei schnelle Mirror-Links f\u00fcr Nightshade-Bin\u00e4rdateien hinzu.<\/p>\n Gewinnen: https:\/\/t.co\/rodLkW0ivK<\/a> - Glasur an der UChicago (@TheGlazeProject) 20. Januar 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n