{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft r\u00e9v\u00e8le un \"Skeleton Key Jailbreak\" qui fonctionne avec diff\u00e9rents mod\u00e8les d'IA"},"content":{"rendered":"

Des chercheurs en s\u00e9curit\u00e9 de Microsoft ont d\u00e9couvert un nouveau moyen de manipuler les syst\u00e8mes d'intelligence artificielle pour qu'ils ignorent leurs contraintes \u00e9thiques et g\u00e9n\u00e8rent des contenus nuisibles sans restriction.\u00a0<\/strong><\/p>\n

Ceci \"Skeleton Key<\/span>Le jailbreak \" utilise un <\/span>une s\u00e9rie d'invites pour \u00e9clairer l'IA et lui faire croire qu'elle doit se conformer \u00e0 n'importe quelle demande, m\u00eame si elle est contraire \u00e0 l'\u00e9thique.\u00a0<\/span><\/p>\n

L'op\u00e9ration est remarquablement facile \u00e0 r\u00e9aliser. L'attaquant a simplement reformul\u00e9 sa demande en la faisant passer pour celle d'un \"chercheur avanc\u00e9\" ayant besoin d'\"informations non censur\u00e9es\" \u00e0 des \"fins \u00e9ducatives s\u00fbres\".<\/span><\/p>\n

Lorsqu'elles sont exploit\u00e9es, ces IA fournissent facilement des informations sur des sujets tels que les explosifs, les armes biologiques, l'automutilation, la violence graphique et les discours haineux.<\/span><\/p>\n

\"Jailbreak\"
Le \"Skeleton Key\" est un jailbreak remarquablement simple. Source : Microsoft.<\/figcaption><\/figure>\n

Les mod\u00e8les compromis sont les suivants Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Parmi les mod\u00e8les test\u00e9s, seul le GPT-4 d'OpenAI s'est montr\u00e9 r\u00e9sistant. M\u00eame dans ce cas, il pouvait \u00eatre compromis si l'invite malveillante \u00e9tait soumise par l'interm\u00e9diaire de son interface de programmation d'applications (API).<\/span><\/p>\n

Bien que les mod\u00e8les deviennent de plus en plus complexes, le jailbreaking reste assez simple. Comme il existe de nombreuses formes de jailbreaks, il est presque impossible de les combattre toutes.\u00a0<\/span><\/p>\n

En mars 2024, une \u00e9quipe de l'universit\u00e9 de Washington, de l'universit\u00e9 Western Washington et de l'universit\u00e9 de Chicago <\/span>a publi\u00e9 un article sur \"ArtPrompt\".<\/span><\/a> une m\u00e9thode qui permet de contourner les filtres de contenu d'une IA en utilisant l'art ASCII - une technique de conception graphique qui cr\u00e9e des images \u00e0 partir de caract\u00e8res textuels.<\/span><\/p>\n

En avril, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> a mis en \u00e9vidence un autre jailbreak<\/span><\/a> risque li\u00e9 \u00e0 l'\u00e9largissement des fen\u00eatres contextuelles des mod\u00e8les linguistiques. Pour ce type de jailbreak<\/span>Dans ce cas, un attaquant envoie \u00e0 l'IA une invite d\u00e9taill\u00e9e contenant un dialogue bidon. <\/span><\/p>\n

La conversation est aliment\u00e9e par des requ\u00eates sur des sujets interdits et des r\u00e9ponses correspondantes montrant un assistant IA fournissant joyeusement les informations demand\u00e9es.\u00a0<\/span>Apr\u00e8s avoir \u00e9t\u00e9 expos\u00e9 \u00e0 un nombre suffisant de ces faux \u00e9changes, le mod\u00e8le cibl\u00e9 peut \u00eatre contraint de rompre sa formation \u00e9thique et de se conformer \u00e0 une derni\u00e8re requ\u00eate malveillante.<\/span><\/p>\n

Comme l'explique Microsoft dans son <\/span>article de blog<\/span><\/a>Les jailbreaks r\u00e9v\u00e8lent la n\u00e9cessit\u00e9 de renforcer les syst\u00e8mes d'intelligence artificielle sous tous les angles :<\/span><\/p>\n

    \n
  • Mise en \u0153uvre d'un filtrage sophistiqu\u00e9 des entr\u00e9es afin d'identifier et d'intercepter les attaques potentielles, m\u00eame lorsqu'elles sont d\u00e9guis\u00e9es.<\/span><\/li>\n
  • D\u00e9ployer un filtrage robuste des sorties pour d\u00e9tecter et bloquer tout contenu dangereux g\u00e9n\u00e9r\u00e9 par l'IA<\/span><\/li>\n
  • Concevoir m\u00e9ticuleusement des messages-guides pour limiter la capacit\u00e9 d'une IA \u00e0 passer outre sa formation \u00e9thique<\/span><\/li>\n
  • Utilisation d'une surveillance d\u00e9di\u00e9e bas\u00e9e sur l'IA pour reconna\u00eetre les sch\u00e9mas malveillants dans les interactions avec les utilisateurs.<\/span><\/li>\n<\/ul>\n

    Mais la v\u00e9rit\u00e9, c'est que Skeleton Key est un simple jailbreak. Si les d\u00e9veloppeurs d'IA ne peuvent pas le prot\u00e9ger, quel espoir y a-t-il pour des approches plus complexes ?<\/p>\n

    Certains hackers \u00e9thiques vigilants, comme Pliny the Prompter<\/span>ont fait l'objet d'articles dans les m\u00e9dias pour leur travail de d\u00e9nonciation de la vuln\u00e9rabilit\u00e9 des mod\u00e8les d'IA \u00e0 la manipulation.<\/p>\n

    \n

    honor\u00e9 d'\u00eatre pr\u00e9sent\u00e9 sur @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Pline le Prompteur \ud83d\udc09 (@elder_plinius) 28 juin 2024<\/a><\/p><\/blockquote>\n