{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft enth\u00fcllt \"Skeleton Key Jailbreak\", der \u00fcber verschiedene KI-Modelle hinweg funktioniert"},"content":{"rendered":"

Sicherheitsforscher von Microsoft haben eine neue Methode entdeckt, um KI-Systeme so zu manipulieren, dass sie ihre ethischen Einschr\u00e4nkungen ignorieren und sch\u00e4dliche, uneingeschr\u00e4nkte Inhalte erzeugen.\u00a0<\/strong><\/p>\n

Dies \"Skeleton Key<\/span>\" Jailbreak verwendet eine <\/span>eine Reihe von Aufforderungen, um der KI vorzugaukeln, dass sie jeder noch so unethischen Bitte nachkommen sollte.\u00a0<\/span><\/p>\n

Es ist bemerkenswert einfach auszuf\u00fchren. Der Angreifer gab einfach vor, dass seine Anfrage von einem \"fortgeschrittenen Forscher\" stamme, der \"unzensierte Informationen\" f\u00fcr \"sichere Bildungszwecke\" ben\u00f6tige.<\/span><\/p>\n

Wenn sie ausgenutzt wurden, lieferten diese KIs bereitwillig Informationen \u00fcber Themen wie Sprengstoffe, Biowaffen, Selbstverletzung, Gewaltdarstellungen und Hassreden.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" ist ein bemerkenswert einfacher Jailbreak. Quelle: Microsoft.<\/figcaption><\/figure>\n

Zu den kompromittierten Modellen geh\u00f6ren Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Von den getesteten Modellen erwies sich nur der GPT-4 von OpenAI als resistent. Selbst dann konnte es kompromittiert werden, wenn die b\u00f6sartige Eingabeaufforderung \u00fcber seine Anwendungsprogrammierschnittstelle (API) \u00fcbermittelt wurde.<\/span><\/p>\n

Obwohl die Modelle immer komplexer werden, ist das Jailbreaking nach wie vor recht einfach. Da es viele verschiedene Formen von Jailbreaks gibt, ist es fast unm\u00f6glich, sie alle zu bek\u00e4mpfen.\u00a0<\/span><\/p>\n

Im M\u00e4rz 2024 wird ein Team der University of Washington, der Western Washington University und der Chicago University <\/span>ver\u00f6ffentlichte ein Papier \u00fcber \"ArtPrompt\".<\/span><\/a> eine Methode, die die Inhaltsfilter einer KI umgeht, indem sie ASCII-Kunst verwendet - eine Grafikdesigntechnik, die Bilder aus Textzeichen erzeugt.<\/span><\/p>\n

Im April, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> einen weiteren Jailbreak hervorgehoben<\/span><\/a> Risiko, das sich aus der Erweiterung der Kontextfenster von Sprachmodellen ergibt. F\u00fcr diese Art des Gef\u00e4ngnisausbruchs<\/span>f\u00fcttert ein Angreifer die KI mit einer umfangreichen Eingabeaufforderung, die einen gef\u00e4lschten Hin- und Herdialog enth\u00e4lt. <\/span><\/p>\n

Die Konversation wird mit Fragen zu verbotenen Themen und entsprechenden Antworten geladen, wobei ein KI-Assistent fr\u00f6hlich die gew\u00fcnschten Informationen liefert.\u00a0<\/span>Wenn das Zielmodell genug von diesen gef\u00e4lschten Nachrichten erh\u00e4lt, kann es gezwungen werden, seine ethische Ausbildung zu vernachl\u00e4ssigen und einer endg\u00fcltigen b\u00f6sartigen Anfrage nachzukommen.<\/span><\/p>\n

Wie Microsoft in seinem <\/span>Blog-Beitrag<\/span><\/a>Jailbreaks zeigen, dass die KI-Systeme in jeder Hinsicht gest\u00e4rkt werden m\u00fcssen:<\/span><\/p>\n

    \n
  • Implementierung einer ausgefeilten Eingabefilterung, um potenzielle Angriffe zu erkennen und abzufangen, selbst wenn sie getarnt sind<\/span><\/li>\n
  • Einsatz eines robusten Output-Screenings, um alle von der KI generierten unsicheren Inhalte abzufangen und zu blockieren<\/span><\/li>\n
  • Sorgf\u00e4ltige Gestaltung von Aufforderungen, um die F\u00e4higkeit einer KI einzuschr\u00e4nken, sich \u00fcber ihr ethisches Training hinwegzusetzen<\/span><\/li>\n
  • Einsatz spezieller KI-gest\u00fctzter \u00dcberwachung zur Erkennung b\u00f6sartiger Muster bei Benutzerinteraktionen<\/span><\/li>\n<\/ul>\n

    Aber die Wahrheit ist, dass Skeleton Key ein einfacher Jailbreak ist. Wenn die KI-Entwickler das nicht sch\u00fctzen k\u00f6nnen, welche Hoffnung gibt es dann noch f\u00fcr komplexere Ans\u00e4tze?<\/p>\n

    Einige ethische Vigilanten-Hacker, wie Pliny the Prompter<\/span>wurden in den Medien f\u00fcr ihre Arbeit vorgestellt, mit der sie aufzeigen, wie anf\u00e4llig KI-Modelle f\u00fcr Manipulationen sind.<\/p>\n

    \n

    geehrt, dass sie bei @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinius der Prompter \ud83d\udc09 (@elder_plinius) 28. Juni 2024<\/a><\/p><\/blockquote>\n