{"id":9376,"date":"2024-01-20T16:18:52","date_gmt":"2024-01-20T16:18:52","guid":{"rendered":"https:\/\/dailyai.com\/?p=9376"},"modified":"2024-01-26T12:21:52","modified_gmt":"2024-01-26T12:21:52","slug":"the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/01\/the-university-of-chicagos-nightshade-is-designed-to-poison-ai-models\/","title":{"rendered":"Le Nightshade de l'Universit\u00e9 de Chicago est con\u00e7u pour empoisonner les mod\u00e8les d'IA"},"content":{"rendered":"

Un groupe de d\u00e9veloppeurs de Chicago a \u00e9quip\u00e9 les artistes de Nightshade, une m\u00e9thode de lutte contre les pratiques non \u00e9thiques en mati\u00e8re de donn\u00e9es.<\/strong><\/p>\n

Nightshade est un outil sophistiqu\u00e9 con\u00e7u pour prot\u00e9ger les \u0153uvres d'art num\u00e9riques contre l'utilisation non autoris\u00e9e dans la formation \u00e0 l'IA en introduisant des \u00e9chantillons \"empoisonn\u00e9s\". <\/span><\/p>\n

Ces alt\u00e9rations sont imperceptibles \u00e0 l'\u0153il nu mais perturbent le processus d'apprentissage de l'IA, entra\u00eenant des associations et des r\u00e9ponses erron\u00e9es. <\/span><\/p>\n

Les <\/span>les chercheurs \u00e9crivent<\/span><\/a>Les yeux humains peuvent voir l'image ombr\u00e9e d'une vache dans un champ vert sans aucune modification, mais un mod\u00e8le d'intelligence artificielle peut voir un grand sac \u00e0 main en cuir dans l'herbe.\u00a0<\/span><\/p>\n

L'effet s'accumule, de sorte que plus il y a d'images \"empoisonn\u00e9es\" dans un ensemble de donn\u00e9es, plus les performances du mod\u00e8le se d\u00e9t\u00e9riorent.<\/p>\n

\"Nightshade
Comment fonctionne le poison de la morelle. Source : Universit\u00e9 de Chicago via ArXiv<\/a><\/figcaption><\/figure>\n

Cet outil vient s'ajouter \u00e0 la pr\u00e9c\u00e9dente cr\u00e9ation de l'Universit\u00e9 de Chicago, Glaze, qui aide \u00e9galement les artistes \u00e0 lutter contre le \"data scraping\". \"Glaze peut modifier des \u00e9l\u00e9ments tels que les couleurs et les coups de pinceau, en pr\u00e9sentant un style artistique diff\u00e9rent de ce qui existe r\u00e9ellement\", expliquent les d\u00e9veloppeurs.<\/span><\/p>\n

Cependant, l'approche de Nightshade diff\u00e8re de celle de Glaze. \"Alors que Glaze \u00e9tait un outil d\u00e9fensif, Nightshade est con\u00e7u pour \u00eatre un outil offensif\", d\u00e9clare l'\u00e9quipe.\u00a0<\/span><\/p>\n

\n

Je suis terriblement excit\u00e9 de partager que \"Artifact\" a \u00e9t\u00e9 Glazed et Nightshaded par @TheGlazeProject<\/a> et quelle \u0153uvre parfaite pour cela aussi. Il s'agit d'une peinture sur l'IA g\u00e9n\u00e9rative qui cannibalise la voix authentique des cr\u00e9ateurs humains. Lorsque cette image est utilis\u00e9e pour l'entra\u00eenement, eh bien... pic.twitter.com\/0VNFIyabc2<\/a><\/p>\n

- Kelly McKernan (@Kelly_McKernan) 14 janvier 2024<\/a><\/p><\/blockquote>\n