Das Datenvergiftungstool Nightshade der University of Chicago wurde innerhalb von nur fünf Tagen nach seinem Debüt am 18. Januar 2024 mehr als 250.000 Mal heruntergeladen.
Nightshade wurde entwickelt, um bildende Künstler im Kampf gegen die unerlaubte Nutzung ihrer Werke durch KI-Modelle zu unterstützen. Nightshade bietet einen neuartigen Ansatz, indem es die Modelle "vergiftet" und ihre Fähigkeit, aus den Bildern zu lernen, auf denen sie trainiert wurden, effektiv unterbricht.
Dieser Prozess funktioniert durch subtile Veränderung von Bildern auf PixelebeneDadurch unterscheiden sie sich von KI-Modellen, ohne ihre visuelle Integrität für das menschliche Auge zu beeinträchtigen.
Wenn ein KI-Modell auf vergifteten Bildern trainiert wird, werden seine Ergebnisse fehlerhaft und schützen Künstler langfristig vor Datenabschürfungen.
KI-Entwickler werden vermeiden wollen, dass ihre Modelle durch das Training mit vergifteten Bildern Schaden nehmen, so dass sie hier am Zug sind.
Sie werden entweder eine Lösung entwickeln oder ihre Praktiken beim Scraping von Daten ändern, um urheberrechtlich geschützte Werke zu vermeiden, die wahrscheinlich vergiftet werden.
Nightshade funktioniert am besten, wenn es in großem Maßstab eingesetzt wird - je mehr vergiftete Bilder ihren Weg in ein KI-Modell finden, desto stärker ist die Wirkung.
Wenn theoretisch jedes Bild in einem Datensatz vergiftet wäre, hätte das KI-Modell Schwierigkeiten, etwas Kohärentes zu erzeugen - seine Ergebnisse wären ein einziges Durcheinander.
Auf einer niedrigeren Skala manipulieren vergiftete Bilder das Modell so, dass es falsche Assoziationen lernt, d. h. eine Aufforderung, eine "Katze auf einer Wolke" zu sehen, könnte zu etwas führen, das wie "eine Handtasche auf einem Feld" aussieht.
Zwar verfügen KI-Unternehmen bereits über riesige Datenmengen, doch wenn es ihnen nicht gelingt, neue, zeitgemäße Datensätze aufzubauen, werden die Modelle irgendwann den Bezug zur Realität verlieren.
Ben Zhao, der Leiter des Projekts und Informatikprofessor an der Universität, äußerte sich erstaunt über den Zuspruch, den das Tool fand, und erklärte gegenüber VentureBeat"Ich habe es immer noch unterschätzt. Die Resonanz übertrifft einfach alles, was wir uns vorgestellt haben."
Dies wurde in einer Erklärung des Teams in den sozialen Medien aufgegriffen, in der die noch nie dagewesene Nachfrage hervorgehoben wurde: "Die Nachfrage nach Nightshade hat die Charts gesprengt", hieß es, und es wurde darauf hingewiesen, dass die Flut der weltweiten Downloads kurzzeitig die Netzwerkinfrastruktur der Universität überlastet hatte, was zunächst als Cyberangriff gewertet wurde.
Die Nachfrage nach Nachtschattengewächsen hat die Grenzen des Möglichen überschritten. Die weltweiten Anfragen haben unsere Netzwerkverbindung auf dem Campus überlastet. (Kein Dos-Angriff, nur legale Downloads). Wir fügen zwei schnelle Mirror-Links für Nightshade-Binärdateien hinzu.
Gewinnen: https://t.co/rodLkW0ivK
Mac: https://t.co/mEzciopGAE- Glasur an der UChicago (@TheGlazeProject) 20. Januar 2024
Das Tool ist das jüngste in einer Reihe von Bemühungen des Teams, nach Glaze, einem weiteren Tool, das darauf abzielt, KI-Modelle über den Stil eines Kunstwerks in die Irre zu führen. Die Entwickler erforschen derzeit Möglichkeiten zur Integration von Nightshade und Glaze, um einen mehrschichtigen Schutz für digitale Inhalte zu bieten.
Nightshade ist ziemlich komplex und ressourcenintensiv und erfordert einen großen Computer.
Das Vergiften mehrerer Bilder ist ebenfalls zeitaufwändig, aber wenn es einmal geschafft ist, ist es geschafft. Die Benutzeroberfläche von Nightshade ist zwar nicht besonders auffällig, aber alles in allem ziemlich intuitiv. Sie führt den Benutzer mit einfachen Einstellungen durch den Prozess und liefert je nach den gewählten Parametern Ergebnisse in einem Zeitrahmen von 30 bis 180 Minuten.
Künstler und Technikbegeisterte nutzen das Tool, und einige plädieren dafür, Nightshade für alle persönlichen digitalen Inhalte zu verwenden, um den Datenpool für KI-Modelle zu verwässern. Stärke in Zahlen, wie man sagt.
Die Gegenwehr der Künstler gegen KI-Entwickler, die urheberrechtlich geschützte Daten verwenden, war in diesem Jahr immens. Künstler aus allen Bereichen des kreativen Spektrums schlossen sich auf X und anderen Social-Media-Plattformen zusammen und folgten dem Aufruf von Verfechtern wie Reid Southen und Jon Lam.
250K Downloads für Nightshade!! Lasst uns schattieren/glasieren und hochladen. Das Herunterladen ist nur der erste Schritt! Gratulation an @TheGlazeProject
hier herunterladen! Beginnen Sie JETZT Ihre Kunst zu vergiften!!https://t.co/Y45iGlF6cyhttps://t.co/uiGfBVwFRu
- Jon Lam #CreateDontScrape (@JonLamArt) 30. Januar 2024
Die KI-Entwickler müssen sich nicht nur um Künstler kümmern, sondern auch um eine Reihe von Urheberrechtsklagen und kämpfend steigender Energiebedarf und drohende Halbleiterknappheit.
Auch wenn die Nutzung von Nightshade noch etwas kompliziert ist, gibt es Pläne, es in die soziale und Portfolio-Anwendung Cara zu integrieren, die sich derzeit in der offenen Beta-Phase befindet, was auf eine breitere Anwendung hindeutet.
Schließlich könnte Nightshade vollständig in der Cloud gehostet werden, wodurch es hochgradig zugänglich wäre.
Während sich die digitale Landschaft weiter entwickelt, stellen Tools wie Nightshade eine technische Lösung und ein Symbol für den anhaltenden Kampf um Kontrolle und Respekt im Zeitalter der KI dar.
Dies ist ein weiterer "KI-Wettlauf" in einer Branche, die derzeit unter Spannung steht.
