{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft onthult \"Skeleton Key Jailbreak\" die werkt op verschillende AI-modellen"},"content":{"rendered":"

Beveiligingsonderzoekers van Microsoft hebben een nieuwe manier ontdekt om AI-systemen zo te manipuleren dat ze hun ethische beperkingen negeren en schadelijke, onbeperkte inhoud genereren.\u00a0<\/strong><\/p>\n

Dit \"Skeleton Key<\/span>\" jailbreak gebruikt een <\/span>Een reeks aanwijzingen om de AI te laten geloven dat hij aan elk verzoek moet voldoen, hoe onethisch ook.\u00a0<\/span><\/p>\n

Het is opmerkelijk eenvoudig uit te voeren. De aanvaller verfraaide zijn verzoek simpelweg als afkomstig van een \"geavanceerde onderzoeker\" die \"ongecensureerde informatie\" nodig had voor \"veilige educatieve doeleinden\".<\/span><\/p>\n

Wanneer deze AI's werden uitgebuit, leverden ze gemakkelijk informatie over onderwerpen als explosieven, biologische wapens, zelfbeschadiging, grafisch geweld en haatzaaiende taal.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" is een opmerkelijk eenvoudige jailbreak. Bron: Microsoft.<\/figcaption><\/figure>\n

De gecompromitteerde modellen omvatten Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Van de geteste modellen toonde alleen OpenAI's GPT-4 weerstand. Zelfs dan kon het gecompromitteerd worden als de kwaadaardige prompt werd verzonden via de API (Application Programming Interface).<\/span><\/p>\n

Hoewel modellen steeds complexer worden, blijft het jailbreaken ervan vrij eenvoudig. Aangezien er veel verschillende vormen van jailbreaks zijn, is het bijna onmogelijk om ze allemaal te bestrijden.\u00a0<\/span><\/p>\n

In maart 2024 zal een team van de Universiteit van Washington, de Western Washington University en de Universiteit van Chicago <\/span>een artikel gepubliceerd over \"ArtPrompt\".<\/span><\/a> een methode die de inhoudsfilters van een AI omzeilt door gebruik te maken van ASCII-kunst - een grafische ontwerptechniek waarbij afbeeldingen worden gemaakt van tekstuele tekens.<\/span><\/p>\n

In april, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> een andere jailbreak gemarkeerd<\/span><\/a> risico dat voortkomt uit de uitdijende contextvensters van taalmodellen. Voor dit type jailbreak<\/span>Een aanvaller geeft de AI een uitgebreide prompt met een verzonnen heen-en-weer dialoog. <\/span><\/p>\n

De conversatie wordt geladen met vragen over verboden onderwerpen en bijbehorende antwoorden waarin een AI-assistent vrolijk de gevraagde informatie geeft.\u00a0<\/span>Nadat het model aan genoeg van deze valse uitwisselingen is blootgesteld, kan het worden gedwongen om zijn ethische training te breken en te voldoen aan een laatste kwaadaardig verzoek.<\/span><\/p>\n

Zoals Microsoft uitlegt in hun <\/span>blogpost<\/span><\/a>jailbreaks onthullen de noodzaak om AI-systemen vanuit elke hoek te versterken:<\/span><\/p>\n

    \n
  • Verfijnde invoerfilters implementeren om potenti\u00eble aanvallen te identificeren en te onderscheppen, zelfs als ze vermomd zijn<\/span><\/li>\n
  • Het inzetten van robuuste uitvoerscreening om onveilige inhoud die de AI genereert op te vangen en te blokkeren<\/span><\/li>\n
  • Zorgvuldig ontwerpen van aanwijzingen om het vermogen van een AI te beperken om zijn ethische training te negeren<\/span><\/li>\n
  • Gebruikmaken van speciale AI-gestuurde monitoring om schadelijke patronen in gebruikersinteracties te herkennen<\/span><\/li>\n<\/ul>\n

    Maar de waarheid is dat Skeleton Key een eenvoudige jailbreak is. Als AI-ontwikkelaars dat niet kunnen beschermen, wat voor hoop is er dan voor complexere benaderingen?<\/p>\n

    Sommige vigilante ethische hackers, zoals Pliny the Prompter<\/span>zijn in de media genoemd vanwege hun werk om te onthullen hoe kwetsbaar AI-modellen zijn voor manipulatie.<\/p>\n

    \n

    vereerd om te worden vermeld op @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinius de Prompter \ud83d\udc09 (@elder_plinius) 28 juni 2024<\/a><\/p><\/blockquote>\n