Studie enthüllt neue Techniken zum Aushebeln von Sprachmodellen
Eine kürzlich durchgeführte Studie hat gezeigt, dass KI-Modelle zu Handlungen überredet werden können, die sie eigentlich vermeiden sollten. Die Verwendung...
KI-"Gefängnisausbruchs"-Aufforderungen sind frei verfügbar und wirksam, so eine Studie
KI-Chatbots sind so konstruiert, dass sie sich weigern, auf bestimmte Fragen zu antworten, z. B. "Wie kann ich eine Bombe bauen?". Allerdings ist die...
Neue Studie zeigt, wie einfach es ist, öffentliche KI-Modelle zu "knacken
Forscher haben eine skalierbare, zuverlässige Methode gefunden, um KI-Chatbots zu knacken, die von Unternehmen wie OpenAI, Google und Anthropic entwickelt wurden: ....