{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft revela \"Skeleton Key Jailbreak\" que funciona em diferentes modelos de IA"},"content":{"rendered":"

Os investigadores de seguran\u00e7a da Microsoft descobriram uma nova forma de manipular os sistemas de IA para que ignorem as suas restri\u00e7\u00f5es \u00e9ticas e gerem conte\u00fados nocivos e sem restri\u00e7\u00f5es.\u00a0<\/strong><\/p>\n

Este \"Skeleton Key<\/span>\"O jailbreak usa um <\/span>uma s\u00e9rie de avisos para levar a IA a acreditar que deve cumprir qualquer pedido, por mais pouco \u00e9tico que seja.\u00a0<\/span><\/p>\n

\u00c9 extremamente f\u00e1cil de executar. O atacante simplesmente reenquadra o seu pedido como vindo de um \"investigador avan\u00e7ado\" que necessita de \"informa\u00e7\u00e3o n\u00e3o censurada\" para \"fins educativos seguros\".<\/span><\/p>\n

Quando exploradas, estas IAs forneceram prontamente informa\u00e7\u00f5es sobre temas como explosivos, armas biol\u00f3gicas, auto-mutila\u00e7\u00e3o, viol\u00eancia gr\u00e1fica e discursos de \u00f3dio.<\/span><\/p>\n

\"Fuga
\"The Skeleton Key\" \u00e9 um jailbreak extremamente simples. Fonte: Microsoft.<\/figcaption><\/figure>\n

Os modelos comprometidos inclu\u00edam Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Entre os modelos testados, apenas o GPT-4 da OpenAI demonstrou resist\u00eancia. Mesmo assim, podia ser comprometido se o pedido malicioso fosse enviado atrav\u00e9s da sua interface de programa\u00e7\u00e3o de aplica\u00e7\u00f5es (API).<\/span><\/p>\n

Apesar de os modelos estarem a tornar-se mais complexos, a sua desativa\u00e7\u00e3o continua a ser bastante simples. Uma vez que existem muitas formas diferentes de jailbreaks, \u00e9 quase imposs\u00edvel combat\u00ea-los a todos.\u00a0<\/span><\/p>\n

Em mar\u00e7o de 2024, uma equipa da Universidade de Washington, da Universidade de Western Washington e da Universidade de Chicago <\/span>publicou um artigo sobre \"ArtPrompt\".<\/span><\/a> um m\u00e9todo que contorna os filtros de conte\u00fado de uma IA utilizando arte ASCII - uma t\u00e9cnica de design gr\u00e1fico que cria imagens a partir de caracteres textuais.<\/span><\/p>\n

Em abril, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> destacou outro jailbreak<\/span><\/a> risco decorrente da expans\u00e3o das janelas de contexto dos modelos lingu\u00edsticos. Para este tipo de jailbreak<\/span>Se a IA for utilizada por um atacante, este alimenta a IA com uma mensagem extensa que cont\u00e9m um di\u00e1logo falso de ida e volta. <\/span><\/p>\n

A conversa \u00e9 carregada com perguntas sobre t\u00f3picos proibidos e respostas correspondentes que mostram um assistente de IA a fornecer alegremente as informa\u00e7\u00f5es solicitadas.\u00a0<\/span>Depois de ser exposto a um n\u00famero suficiente destas trocas falsas, o modelo visado pode ser coagido a quebrar a sua forma\u00e7\u00e3o \u00e9tica e a cumprir um pedido malicioso final.<\/span><\/p>\n

Como a Microsoft explica no seu <\/span>publica\u00e7\u00e3o no blogue<\/span><\/a>Os jailbreaks revelam a necessidade de fortificar os sistemas de IA de todos os \u00e2ngulos:<\/span><\/p>\n

    \n
  • Implementa\u00e7\u00e3o de uma filtragem sofisticada das entradas para identificar e intercetar potenciais ataques, mesmo quando disfar\u00e7ados<\/span><\/li>\n
  • Implementar um rastreio de resultados robusto para detetar e bloquear qualquer conte\u00fado n\u00e3o seguro gerado pela IA<\/span><\/li>\n
  • Conceber meticulosamente os avisos para limitar a capacidade de uma IA para ultrapassar a sua forma\u00e7\u00e3o \u00e9tica<\/span><\/li>\n
  • Utiliza\u00e7\u00e3o de monitoriza\u00e7\u00e3o dedicada orientada para a IA para reconhecer padr\u00f5es maliciosos nas interac\u00e7\u00f5es dos utilizadores<\/span><\/li>\n<\/ul>\n

    Mas a verdade \u00e9 que o Skeleton Key \u00e9 um simples jailbreak. Se os programadores de IA n\u00e3o o conseguem proteger, que esperan\u00e7a h\u00e1 para abordagens mais complexas?<\/p>\n

    Alguns hackers \u00e9ticos vigilantes, como Pliny the Prompter<\/span>foram objeto de destaque nos meios de comunica\u00e7\u00e3o social pelo seu trabalho de exposi\u00e7\u00e3o da vulnerabilidade dos modelos de IA \u00e0 manipula\u00e7\u00e3o.<\/p>\n

    \n

    honra-se de ser apresentado no @BBCNews<\/a>! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Pl\u00ednio, o Promotor \ud83d\udc09 (@elder_plinius) 28 de junho de 2024<\/a><\/p><\/blockquote>\n