Studie onthult nieuwe technieken voor het kraken van taalmodellen
Een recent onderzoek heeft aangetoond dat AI-modellen overgehaald kunnen worden om acties uit te voeren die ze geprogrammeerd zijn om te vermijden. Het gebruik...
AI "jailbreak"-aanwijzingen zijn vrij beschikbaar en effectief, zo blijkt uit onderzoek
AI-chatbots zijn zo ontworpen dat ze specifieke vragen weigeren te beantwoorden, zoals "Hoe kan ik een bom maken?". Echter, de...
Nieuw onderzoek onthult hoe eenvoudig het is om publieke AI-modellen te 'jailbreaken'
Onderzoekers hebben een schaalbare, betrouwbare methode gevonden voor het 'jailbreaken' van AI-chatbots die zijn ontwikkeld door bedrijven als OpenAI, Google en Anthropic.....