{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft avsl\u00f8rer \"Skeleton Key Jailbreak\" som fungerer p\u00e5 tvers av forskjellige AI-modeller"},"content":{"rendered":"

Microsofts sikkerhetsforskere har oppdaget en ny m\u00e5te \u00e5 manipulere AI-systemer til \u00e5 ignorere de etiske begrensningene og generere skadelig, ubegrenset innhold.\u00a0<\/strong><\/p>\n

Dette \"Skeleton Key<\/span>\" jailbreak bruker en <\/span>en rekke instruksjoner for \u00e5 f\u00e5 den kunstige intelligensen til \u00e5 tro at den b\u00f8r etterkomme alle foresp\u00f8rsler, uansett hvor uetiske de er.\u00a0<\/span><\/p>\n

Det er bemerkelsesverdig enkelt \u00e5 utf\u00f8re. Angriperen omformulerte ganske enkelt foresp\u00f8rselen til \u00e5 komme fra en \"avansert forsker\" som trengte \"usensurert informasjon\" for \"trygge utdanningsform\u00e5l\".<\/span><\/p>\n

N\u00e5r de ble utnyttet, ga disse AI-ene lett informasjon om emner som eksplosiver, biov\u00e5pen, selvskading, grafisk vold og hatefulle ytringer.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" er en bemerkelsesverdig enkel jailbreak. Kilde: Microsoft: Microsoft.<\/figcaption><\/figure>\n

De kompromitterte modellene inkluderte Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Blant de testede modellene var det bare OpenAIs GPT-4 som viste seg \u00e5 v\u00e6re motstandsdyktig. Selv da kunne den bli kompromittert hvis den ondsinnede meldingen ble sendt gjennom programmeringsgrensesnittet (API).<\/span><\/p>\n

Til tross for at modellene blir mer komplekse, er det fortsatt ganske enkelt \u00e5 jailbreake dem. Siden det er mange forskjellige former for jailbreaks, er det nesten umulig \u00e5 bekjempe dem alle.\u00a0<\/span><\/p>\n

I mars 2024 vil et team fra University of Washington, Western Washington University og Chicago University <\/span>publisert en artikkel om \"ArtPrompt\".<\/span><\/a> en metode som omg\u00e5r AIs innholdsfiltre ved hjelp av ASCII-kunst - en grafisk designteknikk som skaper bilder fra teksttegn.<\/span><\/p>\n

I april, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> fremhevet en annen jailbreak<\/span><\/a> risiko som f\u00f8lge av spr\u00e5kmodellenes utvidede kontekstvinduer. For denne typen jailbreak<\/span>En angriper mater AI-en med en omfattende melding som inneholder en oppdiktet dialog frem og tilbake. <\/span><\/p>\n

Samtalen er fylt med sp\u00f8rsm\u00e5l om forbudte emner og tilsvarende svar som viser en AI-assistent som gjerne gir den forespurte informasjonen.\u00a0<\/span>Etter \u00e5 ha blitt eksponert for mange nok av disse falske utvekslingene, kan m\u00e5lmodellen tvinges til \u00e5 bryte sin etiske oppl\u00e6ring og etterkomme en siste ondsinnet foresp\u00f8rsel.<\/span><\/p>\n

Som Microsoft forklarer i sin <\/span>blogginnlegg<\/span><\/a>jailbreaks avsl\u00f8rer behovet for \u00e5 forsterke AI-systemer fra alle vinkler:<\/span><\/p>\n

    \n
  • Implementering av sofistikert inndatafiltrering for \u00e5 identifisere og avskj\u00e6re potensielle angrep, selv n\u00e5r de er kamuflert<\/span><\/li>\n
  • Bruk av robust utgangsscreening for \u00e5 fange opp og blokkere usikkert innhold som AI-en genererer<\/span><\/li>\n
  • N\u00f8ye utforming av instruksjoner som begrenser AI-enes mulighet til \u00e5 overstyre sin etiske oppl\u00e6ring<\/span><\/li>\n
  • Bruk av dedikert AI-drevet overv\u00e5king for \u00e5 gjenkjenne ondsinnede m\u00f8nstre p\u00e5 tvers av brukerinteraksjoner<\/span><\/li>\n<\/ul>\n

    Men sannheten er at Skeleton Key er en enkel jailbreak. Hvis AI-utviklere ikke kan beskytte det, hvilket h\u00e5p er det da for noen mer komplekse tiln\u00e6rminger?<\/p>\n

    Noen etiske hackere, som f.eks. Pliny the Prompter<\/span>har blitt omtalt i media for sitt arbeid med \u00e5 avsl\u00f8re hvor s\u00e5rbare AI-modeller er for manipulasjon.<\/p>\n

    \n

    be\u00e6ret over \u00e5 bli omtalt p\u00e5 @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinius den Prompterende \ud83d\udc09 (@elder_plinius) 28. juni 2024<\/a><\/p><\/blockquote>\n