Nightshade, de tool voor gegevensvergiftiging van de Universiteit van Chicago, werd binnen vijf dagen na zijn debuut op 18 januari 2024 meer dan 250.000 keer gedownload.\u00a0<\/b><\/p>\n
Nightshade is ontworpen om beeldend kunstenaars te helpen in de strijd tegen ongeautoriseerd gebruik van hun werk door AI-modellen. Nightshade biedt een nieuwe aanpak door modellen te \"vergiftigen\", waardoor hun vermogen om te leren van de beelden waarop ze getraind zijn effectief wordt verstoord.<\/span><\/p>\n Dit proces <\/span>werkt door afbeeldingen subtiel te wijzigen op pixelniveau<\/span><\/a>waardoor ze er anders uitzien dan AI-modellen zonder afbreuk te doen aan hun visuele integriteit voor het menselijk oog.\u00a0<\/span><\/p>\n Als een AI-model wordt getraind op vergiftigde afbeeldingen, worden de uitkomsten gebrekkig, waardoor kunstenaars op de lange termijn effectief worden beschermd tegen dataschrapen. <\/span><\/p>\n AI-ontwikkelaars zullen willen voorkomen dat ze hun modellen beschadigen door te trainen op vergiftigde afbeeldingen.<\/span><\/p>\n Ze zullen een oplossing bedenken of hun dataschrappraktijken aanpassen om te voorkomen dat auteursrechtelijk beschermde werken worden vergiftigd.\u00a0<\/span><\/p>\n Nightshade werkt het beste als het op schaal wordt gebruikt - hoe meer vergiftigde afbeeldingen in een AI-model terechtkomen, hoe sterker de impact.\u00a0<\/span><\/p>\n Als, in theorie, elke afbeelding in een dataset vergiftigd zou zijn, dan zou het AI-model moeite hebben om iets coherents te genereren - de output zou een haperende puinhoop zijn.\u00a0<\/span><\/p>\n Op een lager niveau manipuleren vergiftigde afbeeldingen het model om verkeerde associaties te leren, wat betekent dat een prompt van een \"kat op een wolk\" iets kan opleveren dat lijkt op \"een handtas in een veld\".\u00a0<\/span><\/p>\n Hoewel AI-bedrijven al enorme hoeveelheden gegevens tot hun beschikking hebben, zullen modellen uiteindelijk het contact met de werkelijkheid verliezen als ze er niet in slagen om nieuwe, eigentijdse datasets op te bouwen.<\/p>\n Ben Zhao, de projectleider en professor computerwetenschappen aan de universiteit, toonde zich verbaasd over de ontvangst van de tool en zei tegen <\/span>VentureBeat<\/span><\/a>\"Ik heb het nog steeds onderschat. De respons overtreft gewoon alles wat we ons hadden voorgesteld.\"\u00a0<\/span><\/p>\n Dit kwam terug in een verklaring van het team op social media, waarin de ongekende vraag werd benadrukt: \"De vraag naar Nightshade is ongekend\", zeiden ze, waarbij ze opmerkten dat de vloedgolf van wereldwijde downloads tijdelijk de netwerkinfrastructuur van de universiteit had overspoeld, waarvan ze aanvankelijk dachten dat het een cyberaanval kon zijn.\u00a0<\/span><\/p>\n De vraag naar nachtschade is enorm. De wereldwijde aanvragen hebben onze campusnetwerkverbinding verzadigd. (Geen dos-aanval, alleen legitieme downloads). We voegen twee snelle mirror links toe voor de binaries van nightshade.<\/p>\n Winnen: https:\/\/t.co\/rodLkW0ivK<\/a> - Glaze bij UChicago (@TheGlazeProject) 20 januari 2024<\/a><\/p><\/blockquote>\n\n
\nMac: https:\/\/t.co\/mEzciopGAE<\/a><\/p>\n