Studie afslører nye teknikker til jailbreaking af sprogmodeller
En nylig undersøgelse afslørede, at AI-modeller kan lokkes til at udføre handlinger, som de er programmeret til at undgå. Brugen af...
AI-"jailbreak"-prompter er frit tilgængelige og effektive, viser undersøgelse
AI-chatbots er konstrueret til at nægte at svare på specifikke spørgsmål, såsom "Hvordan kan jeg lave en bombe?". Men den...
Ny undersøgelse afslører, hvor nemt det er at 'jailbreake' offentlige AI-modeller
Forskere har fundet en skalerbar, pålidelig metode til at 'jailbreake' AI-chatbots udviklet af virksomheder som OpenAI, Google og Anthropic....