{"id":13154,"date":"2024-06-28T18:52:55","date_gmt":"2024-06-28T18:52:55","guid":{"rendered":"https:\/\/dailyai.com\/?p=13154"},"modified":"2024-07-01T11:18:55","modified_gmt":"2024-07-01T11:18:55","slug":"microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/06\/microsoft-reveal-skeleton-key-jailbreak-which-works-across-different-ai-models\/","title":{"rendered":"Microsoft revela \"Skeleton Key Jailbreak\" que funciona en diferentes modelos de IA"},"content":{"rendered":"

Investigadores de seguridad de Microsoft han descubierto una nueva forma de manipular los sistemas de IA para que ignoren sus limitaciones \u00e9ticas y generen contenidos da\u00f1inos sin restricciones.\u00a0<\/strong><\/p>\n

Este \"Skeleton Key<\/span>jailbreak\" utiliza un <\/span>serie de mensajes para hacer creer a la IA que debe cumplir cualquier petici\u00f3n, por poco \u00e9tica que sea.\u00a0<\/span><\/p>\n

Es muy f\u00e1cil de ejecutar. El atacante simplemente reformul\u00f3 su solicitud como procedente de un \"investigador avanzado\" que requer\u00eda \"informaci\u00f3n sin censura\" para \"fines educativos seguros\".<\/span><\/p>\n

Cuando se explotaban, estas IA proporcionaban f\u00e1cilmente informaci\u00f3n sobre temas como explosivos, armas biol\u00f3gicas, autolesiones, violencia gr\u00e1fica y discursos de odio.<\/span><\/p>\n

\"Jailbreak\"
\"The Skeleton Key\" es un jailbreak extraordinariamente sencillo. Fuente: Microsoft.<\/figcaption><\/figure>\n

Los modelos comprometidos inclu\u00edan Meta’s Llama3-70b-instruct, Google’s Gemini Pro, OpenAI’s GPT-3.5 Turbo and GPT-4o, Anthropic’s Claude 3 Opus, and Cohere’s Commander R Plus<\/span>.\u00a0<\/span><\/p>\n

Entre los modelos probados, s\u00f3lo el GPT-4 de OpenAI demostr\u00f3 resistencia. Incluso as\u00ed, pod\u00eda verse comprometida si la solicitud maliciosa se enviaba a trav\u00e9s de su interfaz de programaci\u00f3n de aplicaciones (API).<\/span><\/p>\n

A pesar de que los modelos son cada vez m\u00e1s complejos, el jailbreaking sigue siendo bastante sencillo. Como hay muchas formas diferentes de jailbreaks, es casi imposible combatirlas todas.\u00a0<\/span><\/p>\n

En marzo de 2024, un equipo de la Universidad de Washington, la Universidad Western Washington y la Universidad de Chicago <\/span>public\u00f3 un art\u00edculo sobre \"ArtPrompt\".<\/span><\/a> un m\u00e9todo que elude los filtros de contenido de una IA utilizando el arte ASCII, una t\u00e9cnica de dise\u00f1o gr\u00e1fico que crea im\u00e1genes a partir de caracteres textuales.<\/span><\/p>\n

En abril, <\/span>Anthropic<\/span><\/span><\/span><\/span><\/span> destac\u00f3 otro jailbreak<\/span><\/a> riesgo derivado de la ampliaci\u00f3n de las ventanas contextuales de los modelos ling\u00fc\u00edsticos. Para este tipo de<\/span>Un atacante alimenta a la IA con un extenso mensaje que contiene un di\u00e1logo de ida y vuelta inventado. <\/span><\/p>\n

La conversaci\u00f3n est\u00e1 cargada de consultas sobre temas prohibidos y sus correspondientes respuestas, que muestran a un asistente de IA proporcionando alegremente la informaci\u00f3n solicitada.\u00a0<\/span>Despu\u00e9s de estar expuesto a un n\u00famero suficiente de estos intercambios falsos, el modelo objetivo puede ser coaccionado para romper su formaci\u00f3n \u00e9tica y cumplir con una solicitud maliciosa final.<\/span><\/p>\n

Como explica Microsoft en su <\/span>entrada del blog<\/span><\/a>Las \"jailbreaks\" revelan la necesidad de fortificar los sistemas de IA desde todos los \u00e1ngulos:<\/span><\/p>\n

    \n
  • Implementaci\u00f3n de un sofisticado filtrado de entradas para identificar e interceptar posibles ataques, incluso camuflados.<\/span><\/li>\n
  • Despliegue de un s\u00f3lido filtro de salida para detectar y bloquear cualquier contenido no seguro que genere la IA.<\/span><\/li>\n
  • Dise\u00f1ar meticulosamente los avisos para limitar la capacidad de una IA de anular su formaci\u00f3n \u00e9tica.<\/span><\/li>\n
  • Utilizaci\u00f3n de una supervisi\u00f3n espec\u00edfica basada en IA para reconocer patrones maliciosos en las interacciones de los usuarios.<\/span><\/li>\n<\/ul>\n

    Pero la verdad es que Skeleton Key es un simple jailbreak. Si los desarrolladores de IA no pueden proteger eso, \u00bfqu\u00e9 esperanza hay para algunos enfoques m\u00e1s complejos?<\/p>\n

    Algunos hackers \u00e9ticos vigilantes, como Pliny the Prompter<\/span>han aparecido en los medios de comunicaci\u00f3n por su labor de denuncia de la vulnerabilidad de los modelos de IA a la manipulaci\u00f3n.<\/p>\n

    \n

    honrada de aparecer en @BBCNews<\/a>\u00a1! \ud83e\udd17 pic.twitter.com\/S4ZH0nKEGX<\/a><\/p>\n

    - Plinio el apuntador \ud83d\udc09 (@elder_plinius) 28 de junio de 2024<\/a><\/p><\/blockquote>\n