Конгресс обеспокоен влиянием RAND на орган по безопасности ИИ
Согласно указу, который президент Байден подписал в октябре, Национальному институту стандартов и технологий (NIST) поручено исследовать...
Чатбот дилера Chevy обманом заставил продать автомобиль за $1
Дилерский центр Chevrolet в Уотсонвилле, штат Калифорния, был вынужден отключить свой чатбот для продаж после того, как его обманом заставили предложить...
Dolphin Mixtral: Мощная модель ИИ с открытым исходным кодом без цензуры
Французский ИИ-стартап Mistral выпустил свою модель Mixtral 8x7B с открытым исходным кодом на прошлой неделе. Исследователь искусственного интеллекта выпустил...
OpenAI позволяет совету директоров "отменять" решения генерального директора о выпуске моделей
Недавно компания OpenAI сообщила, что ее совет директоров имеет право отменять решения генерального директора относительно выпуска...
OpenAI публикует первые результаты проекта Superalignment
Современные модели искусственного интеллекта способны делать множество небезопасных или нежелательных вещей. Человеческий контроль и обратная связь удерживают эти...
ИИ представляет собой растущий риск для финансовых рынков, предупреждает американский регулятор
Впервые Совет по надзору за финансовой стабильностью (FSOC), орган, следящий за стабильностью финансовой системы США,...
Токены API, выставленные на Huggingface и GitHub, представляют собой огромный риск
Компания Lasso Security раскрыла уязвимости в системах безопасности HuggingFace и GitHub, обнаружив 1681 открытый API-токен, жестко закодированный в коде, хранящемся на...
Попросив ChatGPT повторить слова, вы можете раскрыть его обучающие данные
Исследователи из Google Deep Mind и нескольких университетов обнаружили, что LLM можно заставить раскрывать свои обучающие данные,...
Великобритания и США разрабатывают новые глобальные рекомендации по безопасности ИИ
По мере широкого распространения технологий искусственного интеллекта они становятся мишенью для киберпреступников. Агентства кибербезопасности из Великобритании и США...
Гарри Поттер и эффективные альтруисты под управлением OpenAI
На решение уволить Сэма Альтама могли повлиять эффективные альтруистические идеалы, разделяемые членами совета директоров OpenAI....