{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"University of Chicagos Nightshade er designet til at forgifte AI-modeller"},"content":{"rendered":"

En gruppe Chicago-baserede udviklere har udstyret kunstnere med Nightshade, en metode til at k\u00e6mpe imod uetisk datapraksis.<\/strong><\/p>\n

Nightshade er et sofistikeret v\u00e6rkt\u00f8j, der er designet til at beskytte digitale kunstv\u00e6rker mod uautoriseret brug i AI-tr\u00e6ning ved at introducere \"giftige\" pr\u00f8ver. <\/span><\/p>\n

Disse \u00e6ndringer er um\u00e6rkelige for det menneskelige \u00f8je, men forstyrrer en AI's l\u00e6ringsproces og f\u00f8rer til forkerte associationer og reaktioner. <\/span><\/p>\n

Den <\/span>Forskerne skriver<\/span><\/a>\"Menneske\u00f8jne kan se et skraveret billede af en ko p\u00e5 en gr\u00f8n mark stort set u\u00e6ndret, men en AI-model kan se en stor l\u00e6dertaske, der ligger i gr\u00e6sset.\"\u00a0<\/span><\/p>\n

Effekten akkumuleres, s\u00e5 jo flere \"forgiftede\" billeder, der ender i et datas\u00e6t, jo mere forringes modellens ydeevne.<\/p>\n

\"Nightshade
S\u00e5dan virker natskygge-giftangreb. Kilde: University of Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Dette v\u00e6rkt\u00f8j kommer i till\u00e6g til University of Chicagos tidligere skabelse, Glaze, som ogs\u00e5 hj\u00e6lper kunstnere med at bek\u00e6mpe data scraping. \"Glaze kan \u00e6ndre ting som farver og penselstr\u00f8g og pr\u00e6sentere en anden kunstnerisk stil end den, der faktisk er der,\" forklarer udviklerne.<\/span><\/p>\n

Nightshade afviger dog fra Glaze i sin tilgang. \"Mens Glaze var et defensivt v\u00e6rkt\u00f8j, er Nightshade designet til at v\u00e6re et offensivt v\u00e6rkt\u00f8j\", siger teamet.\u00a0<\/span><\/p>\n

\n

Jeg er meget begejstret for at kunne fort\u00e6lle, at \"Artifact\" er blevet Glazed og Nightshaded af @TheGlazeProject<\/a> og sikke et perfekt v\u00e6rk til det. Dette er et maleri om generativ AI, der kannibaliserer den autentiske stemme hos menneskelige kreative. N\u00e5r dette billede skrabes til tr\u00e6ning, ja ... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14. januar 2024<\/a><\/p><\/blockquote>\n