Studie avslöjar nya tekniker för jailbreaking av språkmodeller
En nyligen genomförd studie visade att AI-modeller kan förmås att utföra handlingar som de är programmerade att undvika. Användningen av...
AI-meddelanden om "jailbreak" är fritt tillgängliga och effektiva, visar studie
AI-chattbottar är konstruerade för att vägra svara på specifika frågor, till exempel "Hur kan jag göra en bomb?" Men de...
Ny studie avslöjar hur lätt det är att "jailbreaka" publika AI-modeller
Forskare har hittat en skalbar och tillförlitlig metod för att "jailbreaka" AI-chattbottar som utvecklats av företag som OpenAI, Google och Anthropic....