Западные и китайские ученые проводят "красные линии" в развитии ИИ
На прошлой неделе ведущие ученые в области ИИ встретились на втором Международном диалоге по безопасности ИИ в Пекине, чтобы договориться о "красных...
В докладе, подготовленном по заказу США, говорится, что искусственный интеллект представляет собой "угрозу на уровне вымирания"
В докладе, подготовленном правительством США, говорится, что необходимы новые меры и политика безопасности ИИ, чтобы предотвратить "угрозу вымирания на уровне...
Исследователи взламывают LLM с помощью ASCII-искусства в подсказках
Исследователи разработали атаку на джейлбрейк под названием ArtPrompt, которая использует ASCII-искусство для обхода защитных барьеров LLM. Если вы помните...
Копилот Microsoft переходит в режим Бога, и это немного пугает
Пользователи Copilot поделились тревожными сообщениями о том, как они взаимодействовали с ИИ-ассистентом Microsoft в ответ на подсказки, в которых говорилось о...
IBM Security показывает, как искусственный интеллект может перехватывать аудиоразговоры
Компания IBM Security опубликовала в своем блоге Security Intelligence исследование, показывающее, как можно внедрить голосовые клоны ИИ в...
Проявляет ли ИИ расовую и гендерную предвзятость при оценке изображений?
Исследователи из Национального исследовательского совета Канады провели эксперименты с четырьмя большими зрительно-языковыми моделями (LVLM), чтобы выяснить, демонстрируют ли они...
Модели искусственного интеллекта имеют тенденцию к эскалации сценариев военных игр, говорится в исследовании
ИИ-чатботы, особенно разработанные компанией OpenAI, склонны выбирать агрессивную тактику, включая использование ядерного оружия, сообщает...
OpenAI говорит, что GPT-4 может помочь вам создать биооружие, возможно.
В октябре аналитический центр RAND опубликовал доклад о том, что искусственный интеллект "может" помочь в создании биооружия, а затем опубликовал...
Глубокие подделки аудио становятся все проще, а обнаружить их все сложнее
Поддельные голоса, клонированные искусственным интеллектом, недавно попали в новости благодаря робозвонку "Байден", но и обычные люди страдают от...
Можно ли повысить прозрачность работы агентов ИИ, чтобы сделать их более безопасными?
ИИ-агенты выполняют сложные целевые задачи в условиях ограниченного контроля. Группа исследователей предложила три меры, которые могут...