Исследование выявило новые методы взлома языковых моделей
Недавнее исследование показало, что модели искусственного интеллекта можно заставить выполнять действия, которых они запрограммированы избегать. Использование...
ИИ подсказки для "побега из тюрьмы" находятся в свободном доступе и эффективны, показало исследование
Чат-боты с искусственным интеллектом спроектированы таким образом, чтобы отказываться отвечать на конкретные запросы, например "Как сделать бомбу?". Однако...
Новое исследование показывает, как легко "взломать" публичные модели ИИ
Исследователи нашли масштабируемый и надежный метод "взлома" ИИ-чатботов, разработанных такими компаниями, как OpenAI, Google и Anthropic.....