Исследователи из DeepMind и Стэнфордского университета разработали агента на основе искусственного интеллекта, который проверяет факты в моделях LLM и позволяет проводить сравнительный анализ достоверности моделей ИИ. Даже лучшие модели ИИ все еще…
К Юджин ван дер Ватт • 3 мин чтения
Группа исследователей обнаружила, что после персонализации большой языковой модели (LLM) с учетом демографических данных человека она становится значительно более убедительной, чем…
К Юджин ван дер Ватт • 2 мин чтения
Исследователи из Стэнфордского университета и компании Notbad AI разработали Quiet-STaR — метод, который обучает языковую модель (ЯМ) внутренним рассуждениям перед генерацией результата. Когда люди…
К Юджин ван дер Ватт • 3 мин чтения
Исследователи опубликовали критерий для оценки того, содержит ли линейное знание потенциально опасные знания, а также новую методику для отказа от опасных данных. Это вызвало много споров…
К Юджин ван дер Ватт • 2 мин чтения
Стремительный рост генеративного искусственного интеллекта захватил весь мир, но по мере беспрецедентного развития технологии возник кризис: эрозия…
К Сэм Джинс • 5 минут чтения
Исследователи разработали атаку с использованием джейлбрейка под названием ArtPrompt, которая использует ASCII-графику для обхода защитных механизмов LLM-программ. Если вы помните времена, когда компьютеры ещё не могли обрабатывать графику…
К Юджин ван дер Ватт • 2 мин чтения
Предвзятость всегда была проблемой в ИИ, но новое исследование показывает, что она скрытно интегрирована в языковые модели, что может иметь катастрофические последствия. В том, что…
К Сэм Джинс • 5 минут чтения
Несмотря на стремительный прогресс в области линейных моделей обработки данных, наше понимание того, как эти модели справляются с более длинными входными данными, остается недостаточным. Мош Леви, Алон Якоби и Йоав Гольдберг из…
К Сэм Джинс • 3 мин чтения
Исследователи из Meta и Калифорнийского университета в Сан-Диего (UCSD) разработали ToolVerifier — метод, улучшающий способы вызова программных инструментов и взаимодействия с ними. Для…
К Юджин ван дер Ватт • 2 мин чтения
По мере роста размеров и сложности систем искусственного интеллекта, таких как большие языковые модели (LLM), исследователи выявляют интригующие фундаментальные ограничения. Недавние исследования Google и университета…
К Сэм Джинс · 7 минут чтения
