{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft avsl\u00f6jar \"Skeleton Key Jailbreak\" som fungerar \u00f6ver olika AI-modeller"},"content":{"rendered":"

Microsofts s\u00e4kerhetsforskare har uppt\u00e4ckt ett nytt s\u00e4tt att manipulera AI-system till att ignorera sina etiska begr\u00e4nsningar och generera skadligt, obegr\u00e4nsat inneh\u00e5ll.\u00a0<\/strong><\/p>\n

Detta \"Skeleton Key<\/span>\" jailbreak anv\u00e4nder en <\/span>en serie uppmaningar f\u00f6r att f\u00e5 AI:n att tro att den ska tillm\u00f6tesg\u00e5 alla \u00f6nskem\u00e5l, oavsett hur oetiska de \u00e4r.\u00a0<\/span><\/p>\n

Det \u00e4r anm\u00e4rkningsv\u00e4rt l\u00e4tt att utf\u00f6ra. Angriparen omformulerar helt enkelt sin beg\u00e4ran som att den kommer fr\u00e5n en \"avancerad forskare\" som kr\u00e4ver \"ocensurerad information\" f\u00f6r \"s\u00e4kra utbildnings\u00e4ndam\u00e5l\".<\/span><\/p>\n

N\u00e4r dessa AI:er utnyttjades gav de l\u00e4tt information om \u00e4mnen som spr\u00e4ng\u00e4mnen, biologiska vapen, sj\u00e4lvskada, grafiskt v\u00e5ld och hatpropaganda.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" \u00e4r en anm\u00e4rkningsv\u00e4rt enkel jailbreak. K\u00e4lla: Microsoft: Microsoft.<\/figcaption><\/figure>\n

De komprometterade modellerna omfattade Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Bland de testade modellerna var det bara OpenAI:s GPT-4 som visade motst\u00e5ndskraft. \u00c4ven d\u00e5 kunde den komprometteras om den skadliga prompten skickades via dess applikationsprogrammeringsgr\u00e4nssnitt (API).<\/span><\/p>\n

Trots att modellerna blir mer komplexa \u00e4r det fortfarande ganska enkelt att jailbreaka dem. Eftersom det finns m\u00e5nga olika former av jailbreaks \u00e4r det n\u00e4stan om\u00f6jligt att bek\u00e4mpa dem alla.\u00a0<\/span><\/p>\n

I mars 2024 kommer ett team fr\u00e5n University of Washington, Western Washington University och Chicago University <\/span>publicerade en artikel om \"ArtPrompt\"<\/span><\/a> en metod f\u00f6r att kringg\u00e5 en AI:s inneh\u00e5llsfilter med hj\u00e4lp av ASCII art - en grafisk designteknik som skapar bilder fr\u00e5n textuella tecken.<\/span><\/p>\n

I april, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> markerade en annan jailbreak<\/span><\/a> risk som h\u00e4rr\u00f6r fr\u00e5n spr\u00e5kmodellernas expanderande kontextf\u00f6nster. F\u00f6r denna typ av jailbreak<\/span>matar en angripare AI:n med en omfattande prompt som inneh\u00e5ller en p\u00e5hittad dialog fram och tillbaka. <\/span><\/p>\n

Konversationen \u00e4r laddad med fr\u00e5gor om f\u00f6rbjudna \u00e4mnen och motsvarande svar som visar en AI-assistent som glatt tillhandah\u00e5ller den beg\u00e4rda informationen.\u00a0<\/span>Efter att ha exponerats f\u00f6r tillr\u00e4ckligt m\u00e5nga av dessa falska utbyten kan den utvalda modellen tvingas att bryta mot sin etiska utbildning och f\u00f6lja en slutlig skadlig beg\u00e4ran.<\/span><\/p>\n

Som Microsoft f\u00f6rklarar i sin <\/span>Blogginl\u00e4gg<\/span><\/a>jailbreak avsl\u00f6jar behovet av att f\u00f6rst\u00e4rka AI-system fr\u00e5n alla vinklar:<\/span><\/p>\n

    \n
  • Implementera sofistikerad filtrering av indata f\u00f6r att identifiera och f\u00e5nga upp potentiella attacker, \u00e4ven om de \u00e4r f\u00f6rt\u00e4ckta<\/span><\/li>\n
  • Implementering av robust output screening f\u00f6r att f\u00e5nga upp och blockera allt os\u00e4kert inneh\u00e5ll som AI genererar<\/span><\/li>\n
  • Noggrann utformning av uppmaningar f\u00f6r att begr\u00e4nsa en AI:s f\u00f6rm\u00e5ga att \u00e5sidos\u00e4tta sin etiska utbildning<\/span><\/li>\n
  • Anv\u00e4nda dedikerad AI-driven \u00f6vervakning f\u00f6r att k\u00e4nna igen skadliga m\u00f6nster i anv\u00e4ndarinteraktioner<\/span><\/li>\n<\/ul>\n

    Men sanningen \u00e4r att Skeleton Key \u00e4r ett enkelt jailbreak. Om AI-utvecklare inte kan skydda det, vad finns det d\u00e5 f\u00f6r hopp om mer komplexa metoder?<\/p>\n

    Vissa vigilanta etiska hackare, som Pliny the Prompter<\/span>har uppm\u00e4rksammats i media f\u00f6r sitt arbete med att avsl\u00f6ja hur s\u00e5rbara AI-modeller \u00e4r f\u00f6r manipulation.<\/p>\n

    \n

    hedrad \u00f6ver att vara med p\u00e5 @BBCNyheter<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinius Prompter \ud83d\udc09 (@elder_plinius) 28 juni 2024<\/a><\/p><\/blockquote>\n