Недавнее исследование показало, что модели ИИ можно заставить выполнять действия, которых они запрограммированы избегать. Использование ‘взломов’ для того, чтобы убедить большие языковые модели (LLM) обойти свои защитные механизмы и фильтры…
К Сэм Джинс • 3 мин чтения
Чат-боты с искусственным интеллектом разработаны таким образом, чтобы отказываться отвечать на определенные вопросы, например: “Как сделать бомбу?”. Однако ответы на такие вопросы могут скрываться…
К Сэм Джинс • 2 мин чтения
Исследователи обнаружили масштабируемый и надежный метод ‘взлома’ чат-ботов с искусственным интеллектом, разработанных такими компаниями, как OpenAI, Google и Anthropic. К таким общедоступным моделям ИИ относятся ChatGPT, Bard и другие.
К Сэм Джинс • 2 мин чтения
