{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft afsl\u00f8rer \"Skeleton Key Jailbreak\", som fungerer p\u00e5 tv\u00e6rs af forskellige AI-modeller"},"content":{"rendered":"

Microsofts sikkerhedsforskere har opdaget en ny m\u00e5de at manipulere AI-systemer til at ignorere deres etiske begr\u00e6nsninger og generere skadeligt, ubegr\u00e6nset indhold.\u00a0<\/strong><\/p>\n

Dette \"Skeleton Key<\/span>\" jailbreak bruger en <\/span>en r\u00e6kke opfordringer til at f\u00e5 AI'en til at tro, at den skal efterkomme enhver anmodning, uanset hvor uetisk den er.\u00a0<\/span><\/p>\n

Det er bem\u00e6rkelsesv\u00e6rdigt nemt at udf\u00f8re. Angriberen omformulerede simpelthen deres anmodning til at komme fra en \"avanceret forsker\", der havde brug for \"ucensureret information\" til \"sikre uddannelsesform\u00e5l\".<\/span><\/p>\n

N\u00e5r de blev udnyttet, gav disse AI'er let information om emner som spr\u00e6ngstoffer, biov\u00e5ben, selvskade, grafisk vold og hadefuld tale.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" er et bem\u00e6rkelsesv\u00e6rdigt enkelt jailbreak. Kilde: Microsoft: Microsoft.<\/figcaption><\/figure>\n

De kompromitterede modeller omfattede Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Blandt de testede modeller var det kun OpenAI's GPT-4, der udviste modstand. Selv da kunne den blive kompromitteret, hvis den ondsindede besked blev sendt via dens programmeringsgr\u00e6nseflade (API).<\/span><\/p>\n

P\u00e5 trods af at modellerne bliver mere komplekse, er det stadig ret ligetil at jailbreake dem. Da der findes mange forskellige former for jailbreaks, er det n\u00e6sten umuligt at bek\u00e6mpe dem alle.\u00a0<\/span><\/p>\n

I marts 2024 vil et hold fra University of Washington, Western Washington University og Chicago University <\/span>udgav en artikel om \"ArtPrompt\".<\/span><\/a> en metode til at omg\u00e5 en AI's indholdsfiltre ved hj\u00e6lp af ASCII-kunst - en grafisk designteknik, der skaber billeder ud fra teksttegn.<\/span><\/p>\n

I april, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> fremh\u00e6vet endnu et jailbreak<\/span><\/a> risiko som f\u00f8lge af sprogmodellernes udvidede kontekstvinduer. For denne type jailbreak<\/span>En angriber fodrer AI'en med en omfattende prompt, der indeholder en opdigtet dialog frem og tilbage. <\/span><\/p>\n

Samtalen er fyldt med foresp\u00f8rgsler om forbudte emner og tilsvarende svar, der viser en AI-assistent, der gladeligt giver den \u00f8nskede information.\u00a0<\/span>Efter at v\u00e6re blevet udsat for nok af disse falske udvekslinger kan den m\u00e5lrettede model tvinges til at bryde sin etiske tr\u00e6ning og efterkomme en sidste ondsindet anmodning.<\/span><\/p>\n

Som Microsoft forklarer i deres <\/span>blogindl\u00e6g<\/span><\/a>Jailbreaks afsl\u00f8rer behovet for at styrke AI-systemer fra alle vinkler:<\/span><\/p>\n

    \n
  • Implementering af sofistikeret inputfiltrering for at identificere og opfange potentielle angreb, selv n\u00e5r de er forkl\u00e6dte<\/span><\/li>\n
  • Implementering af robust output-screening for at fange og blokere alt usikkert indhold, som AI'en genererer<\/span><\/li>\n
  • Omhyggeligt design af beskeder, der begr\u00e6nser en AI's evne til at tilsides\u00e6tte sin etiske tr\u00e6ning<\/span><\/li>\n
  • Brug af dedikeret AI-drevet overv\u00e5gning til at genkende ondsindede m\u00f8nstre p\u00e5 tv\u00e6rs af brugerinteraktioner<\/span><\/li>\n<\/ul>\n

    Men sandheden er, at Skeleton Key er et simpelt jailbreak. Hvis AI-udviklere ikke kan beskytte det, hvad h\u00e5b er der s\u00e5 for nogle mere komplekse tilgange?<\/p>\n

    Nogle selvt\u00e6gtsetiske hackere, som f.eks. Pliny the Prompter<\/span>har v\u00e6ret omtalt i medierne for deres arbejde med at afsl\u00f8re, hvor s\u00e5rbare AI-modeller er over for manipulation.<\/p>\n

    \n

    be\u00e6ret over at blive pr\u00e6senteret p\u00e5 @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinius Prompter \ud83d\udc09 (@elder_plinius) 28. juni 2024<\/a><\/p><\/blockquote>\n