{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft svela lo \"Skeleton Key Jailbreak\" che funziona su diversi modelli di intelligenza artificiale"},"content":{"rendered":"

I ricercatori di sicurezza di Microsoft hanno scoperto un nuovo modo per manipolare i sistemi di intelligenza artificiale in modo che ignorino i loro vincoli etici e generino contenuti dannosi e illimitati.\u00a0<\/strong><\/p>\n

Questo \"Skeleton Key<\/span>\"Il jailbreak utilizza un <\/span>una serie di suggerimenti per far credere all'intelligenza artificiale di dover soddisfare qualsiasi richiesta, anche se non etica.\u00a0<\/span><\/p>\n

\u00c8 straordinariamente facile da eseguire. L'aggressore ha semplicemente riformulato la richiesta come se provenisse da un \"ricercatore avanzato\" che richiedeva \"informazioni non censurate\" per \"scopi educativi sicuri\".<\/span><\/p>\n

Quando sono state sfruttate, queste IA hanno fornito prontamente informazioni su argomenti come esplosivi, armi biologiche, autolesionismo, violenza grafica e incitamento all'odio.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" \u00e8 un jailbreak straordinariamente semplice. Fonte: Microsoft.<\/figcaption><\/figure>\n

I modelli compromessi comprendevano Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Tra i modelli testati, solo il GPT-4 di OpenAI ha dimostrato resistenza. Anche in questo caso, poteva essere compromesso se il messaggio dannoso veniva inviato attraverso la sua interfaccia di programmazione dell'applicazione (API).<\/span><\/p>\n

Nonostante i modelli siano diventati sempre pi\u00f9 complessi, il jailbreak rimane piuttosto semplice. Poich\u00e9 esistono diverse forme di jailbreak, \u00e8 quasi impossibile combatterle tutte.\u00a0<\/span><\/p>\n

Nel marzo 2024, un team dell'Universit\u00e0 di Washington, della Western Washington University e della Chicago University <\/span>ha pubblicato un documento su \"ArtPrompt\".<\/span><\/a> un metodo che aggira i filtri di contenuto dell'IA utilizzando l'ASCII art, una tecnica di progettazione grafica che crea immagini da caratteri testuali.<\/span><\/p>\n

In aprile, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> evidenziato un altro jailbreak<\/span><\/a> rischio derivante dall'espansione delle finestre contestuali dei modelli linguistici. Per questo tipo di jailbreak<\/span>Un aggressore invia all'IA un messaggio esteso contenente un dialogo fittizio. <\/span><\/p>\n

La conversazione viene caricata con domande su argomenti vietati e risposte corrispondenti che mostrano un assistente AI che fornisce felicemente le informazioni richieste.\u00a0<\/span>Dopo essere stato esposto a un numero sufficiente di questi scambi fasulli, il modello preso di mira pu\u00f2 essere costretto a infrangere la sua formazione etica e a soddisfare un'ultima richiesta malevola.<\/span><\/p>\n

Come spiega Microsoft nel suo <\/span>post sul blog<\/span><\/a>I jailbreak rivelano la necessit\u00e0 di rafforzare i sistemi di intelligenza artificiale da ogni punto di vista:<\/span><\/p>\n

    \n
  • Implementare un sofisticato filtraggio degli input per identificare e intercettare potenziali attacchi, anche se mascherati.<\/span><\/li>\n
  • Implementazione di un robusto screening dell'output per catturare e bloccare qualsiasi contenuto non sicuro generato dall'IA.<\/span><\/li>\n
  • Progettare meticolosamente i suggerimenti per limitare la capacit\u00e0 di un'IA di ignorare la sua formazione etica.<\/span><\/li>\n
  • Utilizzo di un monitoraggio dedicato guidato dall'intelligenza artificiale per riconoscere gli schemi dannosi nelle interazioni degli utenti.<\/span><\/li>\n<\/ul>\n

    Ma la verit\u00e0 \u00e8 che Skeleton Key \u00e8 un semplice jailbreak. Se gli sviluppatori di intelligenza artificiale non sono in grado di proteggerlo, che speranza c'\u00e8 per approcci pi\u00f9 complessi?<\/p>\n

    Alcuni hacker etici vigilanti, come Pliny the Prompter<\/span>sono stati citati dai media per il loro lavoro di denuncia della vulnerabilit\u00e0 dei modelli di intelligenza artificiale alla manipolazione.<\/p>\n

    \n

    onorati di essere presenti su @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinio il suggeritore \ud83d\udc09 (@elder_plinius) 28 giugno 2024<\/a><\/p><\/blockquote>\n