Теперь OpenAI выплатит до $172,000 за самые серьезные ошибки в ChatGPT.

$171,925. Именно столько, по словам OpenAI, компания может заплатить одному стороннему исследователю за обнаружение уязвимости, позволяющей читать чаты любого пользователя ChatGPT. В понедельник компания повысила вознаграждение за обнаружение уязвимостей и заявила, что привлекает Cathedral, стартап, который в прошлом месяце проник в часть систем Anthropic, для атаки на собственную систему защиты.

Программа вознаграждения за обнаружение уязвимостей (bug bounty) — это постоянно выплачиваемое денежное вознаграждение тем, кто находит уязвимости в системе безопасности и сообщает о них конфиденциально, вместо того чтобы использовать их в своих целях. его объявление, Компания OpenAI заявила, что “более чем в четыре раза увеличивает” среднее значение диапазонов вознаграждения за средние, высокие и критические находки в среднем. За критическую ошибку в ChatGPT, Codex или на платформе для разработчиков теперь выплачивается до $30 000. За самые редкие и серьезные находки по-прежнему можно заработать до $100 000 до бонусов и до $172 000 с бонусами.

Как выглядят новые тарифы

Компания OpenAI привела примеры, которые она называет показательными. За захват аккаунта ChatGPT одним щелчком мыши, который раньше приносил $6500, теперь будет приносить $51577 с учетом всех накопленных бонусов. За исправление ошибки средней сложности, позволявшей члену команды с правами только для чтения загружать файлы в проект, доход уменьшится с $750 до $2415.

Бонусы начисляются по трем новым множителям: за высококачественные отчеты с рабочим подтверждением, по пятиуровневой программе лояльности для постоянных клиентов и по краткосрочным кампаниям с дополнительными выплатами за новые функции. Отчеты, ожидающие оплаты, получают новые ставки, а те, кто получил оплату в течение последних 30 дней, получают разницу. Программа работает на основе... Bugcrowd.

Наём фирмы, которая занялась антропогенным воздействием.

На сайте отдельный пост, Компания OpenAI заявила, что исследователи Cathedral будут использовать модели OpenAI совместно со своими собственными командами в следующем внутреннем спринте по безопасности. Генеральный директор Cathedral Гэвин Клигер сказал, что OpenAI “подает важный пример”, работая с внешними компаниями.

Компания Cathedral, основанная четырьмя бывшими сотрудниками DOGE, заявила, что ее агенты искусственного интеллекта обнаружили пути доступа к сообщениям в Slack компании Anthropic, стенограммам совещаний и данным о заработной плате менее чем за 12 часов., Как сообщила газета Washington Post 26 октября компания Anthropic заявила, что доступ был получен лишь к “ограниченному набору” ее систем продаж, управления персоналом и информационных технологий, а доступ к чатам Клода, исходному коду и весам моделей — нет. Компания также заявила, что Cathedral не раскрыла всю свою деятельность в соответствии с правилами программы вознаграждения., Decrypt сообщил. В сообщениях OpenAI ничего из этого не упоминается.

В ходе последнего спринта, как сообщила OpenAI, 251 000 из 6000 инженеров-разработчиков были задействованы в поиске и устранении уязвимостей с помощью своего агента кодирования Codex. Ни одна из компаний не сообщила, когда начнется новый спринт и сколько будет платить Cathedral.

Почему это важно

Более высокое вознаграждение повышает вероятность того, что следующая уязвимость в ChatGPT будет сообщена OpenAI, а не продана или использована. Это важно для всех, кто хранит личные или рабочие материалы в своих чатах, которые могут просочиться через такие ошибки, как... уязвимость в общих ссылках, о которой мы сообщали в понедельник..