Ссылка на общий чат ChatGPT могла передать ваши личные сообщения посторонним людям.

Открытие одной общей ссылки ChatGPT было достаточно, чтобы передать незнакомцу ваши личные чаты. Исследователи безопасности из Parameter разработали эту атаку, сообщили о ней в OpenAI и получили $5000 после её устранения. Сейчас ничего делать не нужно: уязвимость была устранена 26 октября.

Как сработал этот трюк

ChatGPT позволяет делиться любыми сообщениями в переписке, используя общедоступную ссылку. статья, опубликованная 28 октября., Мукул Гоял из Parameter продемонстрировал, что злоумышленник может внедрить скрытый код в переписку, поделиться им и отправить ссылку по электронной почте, в чате или в публикации в социальных сетях.

Когда авторизованный пользователь открывал приложение, код выполнялся так, как если бы это был сам ChatGPT. В тестах Parameter он отображал недавние переписки жертвы, считывал личный чат, который никогда не был доступен другим, и отправлял его часть на внешний сервер. “По сути, мы могли выполнять любые действия от имени учетной записи ChatGPT жертвы”, — написали исследователи.

В наиболее надежной версии жертва открывала ссылку и один раз нажимала кнопку «Предварительный просмотр» в ChatGPT. В более поздней версии предварительный просмотр открывался сам по себе, поэтому единственным щелчком была ссылка. В этих тестах код выполнялся примерно через 4,5 секунды после открытия ссылки.

Ни одна функция не была сломана. ChatGPT запускает предварительный просмотр веб-кода в закрытом окне. Но интерактивный график в том же чате загружал инструмент для работы с математической клавиатурой под названием MathLive, и этот инструмент принимал инструкции от любого отправителя, включая пользователя, работающего с закрытым предварительным просмотром. Остальное делал скрипт, взятый с YouTube.

Восемь дней на устранение проблемы

Компания Parameter сообщила об ошибке 18 октября. OpenAI воспроизвела её 21 октября и повысила статус с P2 до P1, что Новости хакеров описывает это как наиболее серьезную категорию. Обе версии веб-приложения ChatGPT были исправлены к 26 октября.

Вознаграждение в размере $5000 вызвало широкий резонанс. Разработчик Саймон Уиллисон пишет что это “довольно дешево для такой серьезной уязвимости”. В описании Parameter приводятся только результаты собственных контролируемых тестов.

Это уже второй вопрос о конфиденциальности в ChatGPT за неделю. В четверг мы сообщали об этом. текстовые сообщения ChatGPT’Агент Dot не использует сквозное шифрование..

Почему это важно

Люди вставляют в чат-боты информацию о проблемах со здоровьем, контракты и рабочие документы, поэтому теперь историю чата стоит воровать. Исправление находится на серверах OpenAI, но рассматривать общий чат с незнакомцем как любую неизвестную ссылку по-прежнему разумно.