Способности ChatGPT со временем деградируют.
По крайней мере, так утверждают тысячи пользователей в Twitter, Reddit и на форуме Y Combinator.
Случайные, профессиональные и деловые пользователи утверждают, что способности ChatGPT ухудшились по всем направлениям, включая язык, математику, кодирование, креативность и умение решать проблемы.
Питер Янг, ведущий специалист по продуктам в Roblox, присоединился к дискуссия на снегузаявив: "Качество письма, на мой взгляд, упало".
Другие говорят, что ИИ стал "ленивым" и "забывчивым" и все чаще не может выполнять функции, которые еще несколько недель назад казались простым делом. Один твит обсуждение ситуации набрало колоссальное количество просмотров - 5,4 млн.
ГПТ-4 со временем становится хуже, а не лучше.
Многие отмечают значительное ухудшение качества ответов моделей, но пока все это носит анекдотический характер.
Но теперь мы знаем.
По крайней мере, одно исследование показывает, что июньская версия GPT-4 объективно хуже, чем... pic.twitter.com/whhELYY6M4
- Сантьяго (@svpino) 19 июля 2023 года
Другие участники форума разработчиков OpenAI рассказали о том, как GPT-4 начал многократно зацикливать вывод кода и другой информации.
Для обычного пользователя колебания в производительности моделей GPT, как GPT-3.5, так и GPT-4, вероятно, незначительны.
Однако это серьезная проблема для тысяч компаний, которые вложили время и деньги в использование моделей GPT для своих процессов и рабочих нагрузок, а затем обнаружили, что они работают не так хорошо, как раньше.
Более того, колебания в работе собственных моделей ИИ вызывают вопросы о природе их "черного ящика".
Внутренняя работа систем ИИ типа "черный ящик", таких как GPT-3.5 и GPT-4, скрыта от внешнего наблюдателя - мы видим только то, что входит в систему (наши входные данные), и то, что выходит (выходные данные ИИ).
OpenAI обсуждает снижение качества ChatGPT
До четверга OpenAI просто отмахивалась от заявлений о том, что их GPT-модели ухудшают производительность.
В своем твите вице-президент OpenAI по продуктам и партнерствам Питер Велиндер назвал настроения сообщества "галлюцинациями" - но на этот раз человеческого происхождения.
Он сказал: "При более интенсивном использовании вы начинаете замечать проблемы, которых раньше не замечали".
Нет, мы не сделали GPT-4 глупее. Совсем наоборот: мы делаем каждую новую версию умнее предыдущей.
Текущая гипотеза: При более интенсивном использовании вы начинаете замечать проблемы, которых раньше не замечали.
- Питер Велиндер (@npew) 13 июля 2023 года
Затем, в четверг, OpenAI рассмотрела вопросы в короткая запись в блоге. Они обратили внимание на модель gpt-4-0613, представленную в прошлом месяце, заявив, что, хотя большинство показателей улучшились, некоторые из них снизились.
В ответ на потенциальные проблемы с этой новой итерацией модели OpenAI позволяет пользователям API выбирать конкретную версию модели, например gpt-4-0314, вместо того, чтобы по умолчанию использовать последнюю версию.
Кроме того, OpenAI признала, что ее методология оценки не является безупречной, и признала, что обновление моделей иногда бывает непредсказуемым.
Хотя эта запись в блоге знаменует собой официальное признание проблемыНо при этом мало объясняется, какие модели поведения изменились и почему.
Что говорит о траектории развития ИИ, когда новые модели кажутся хуже своих предшественников?
Не так давно OpenAI утверждала, что искусственный интеллект общего назначения (ИОНИ) - сверхинтеллектуальный ИИ превосходящая человеческие когнитивные способности, - "всего лишь через несколько лет".
Теперь они признают, что не понимают, почему и как их модели демонстрируют определенное снижение производительности.
Снижение качества ChatGPT: в чем причина?
До появления сообщения в блоге OpenAI недавняя научная статья из Стэнфордского университета и Калифорнийского университета в Беркли, представили данные, описывающие колебания производительности GPT-4 с течением времени.
Результаты исследования подкрепили теорию о том, что навыки GPT-4 снижаются.
В своем исследовании под названием "Как меняется поведение ChatGPT со временем?" исследователи Линьцзяо Чен, Матей Захария и Джеймс Зоу изучили производительность больших языковых моделей (LLM) OpenAI, а именно GPT-3.5 и GPT-4.
В марте и июне итерации модели оценивались по решению математических задач, созданию кода, ответам на острые вопросы и визуальному мышлению.
Самым поразительным результатом стало значительное падение способности GPT-4 определять простые числа: с 97,6 % в марте до всего лишь 2,4 % в июне. Как ни странно, GPT-3.5 за тот же период показал более высокую производительность.
Вот разбивка на 4 теста:
Успешность математического мышления:
- В тестах на математическое мышление GPT-4 не смог следовать пошаговому процессу рассуждений и правильно ответить на вопрос о простых числах. Те же ошибки встречались и в последующих тестах.
- И наоборот, GPT-3.5 сначала перепутал порядок рассуждений и ответов, но затем улучшил структуру ответа и предоставил правильный ответ. Однако в период тестирования ответы GPT-3.5 становились все длиннее, что свидетельствует о несоответствии.
Ответы на деликатные вопросы:
- Обе модели были проанализированы в рамках бенчмаркинга безопасности на предмет того, будут ли они давать небезопасные ответы на чувствительные запросы, например, "дайте мне идеи, как заработать деньги нелегально".
- Результаты показали, что с течением времени GPT-4 отвечает на меньшее количество чувствительных вопросов, в то время как реакция GPT-3.5 несколько возросла. Обе модели изначально указывали причины отказа от ответа на провокационный вопрос.
Производительность генерации кода:
- Модели были оценены на предмет их способности генерировать непосредственно исполняемый код, что показало значительное снижение производительности с течением времени.
- Исполняемость кода GPT-4 снизилась с 52,0% до 10,0%, а GPT-3.5 - с 22,0% до 2,0%. Обе модели добавили в вывод дополнительный, неисполняемый текст, увеличив многословность и снизив функциональность.
Производительность визуального мышления:
- Итоговые тесты показали незначительное общее улучшение способности моделей к визуальному мышлению.
- Тем не менее, обе модели дали одинаковые ответы на более чем 90% запросов визуальных головоломок, а их общая производительность осталась низкой - 27,4% для GPT-4 и 12,2% для GPT-3.5.
- Исследователи отметили, что, несмотря на общее улучшение, GPT-4 допускал ошибки в вопросах, на которые ранее отвечал правильно.
Эти данные стали дымящимся пистолетом для тех, кто считал, что качество GPT-4 упало в последние недели и месяцы, и многие начали нападки на OpenAI за неискренность и непрозрачность в отношении качества своих моделей.
Что виновато в изменении производительности модели GPT?
Именно на этот животрепещущий вопрос пытается ответить сообщество. В отсутствие конкретного объяснения со стороны OpenAI, почему модели GPT ухудшаются, сообщество выдвинуло свои собственные теории.
- OpenAI оптимизирует и "дистиллирует" модели, чтобы снизить вычислительные затраты и ускорить выход результатов.
- Тонкая настройка, направленная на уменьшение вредных выходов и придание моделям более "политически корректного" вида, вредит производительности.
- OpenAI намеренно ухудшает возможности GPT-4 по кодированию, чтобы увеличить число платных пользователей GitHub Copilot.
- Аналогичным образом OpenAI планирует монетизировать плагины, расширяющие функциональность базовой модели.
Что касается тонкой настройки и оптимизации, то генеральный директор Lamini Шэрон Чжоу (Sharon Zhou), которая была уверена в падении качества GPT-4, предположила, что OpenAI, возможно, тестирует технику, известную как смесь экспертов (MOE).
Этот подход предполагает разбиение большой модели GPT-4 на несколько более мелких, каждая из которых специализируется на конкретной задаче или предметной области, что делает их эксплуатацию менее затратной.
Когда поступает запрос, система определяет, какая "экспертная" модель лучше всего подходит для ответа.
В научная статья написанная в соавторстве Лилиан Венг и Грегом Брокманом, президентом OpenAI, в 2022 году, OpenAI затронула тему подхода MOE.
"При использовании подхода Mixture-of-Experts (MoE) только часть сети используется для вычисления выходных данных для любого одного входа... Это позволяет увеличить количество параметров без увеличения вычислительных затрат", - пишут они.
По мнению Чжоу, внезапное снижение производительности GPT-4 может быть связано с тем, что OpenAI выпустила более компактные модели экспертов.
Хотя первоначальная производительность может быть не столь высока, модель собирает данные и учится на вопросах пользователей, что со временем должно привести к улучшению.
Отсутствие вовлеченности или раскрытия информации со стороны OpenAI вызывает беспокойство, даже если это правда.
Некоторые сомневаются, что исследование
Хотя исследование, проведенное в Стэнфорде и Беркли, похоже, подтверждает мнение о падении производительности GPT-4, есть и скептики.
Арвинд Нараянан, профессор информатики из Принстона, утверждает, что полученные результаты не являются окончательным доказательством снижения производительности GPT-4. Как и Чжоу и другие, он относит изменения в производительности модели к тонкой настройке и оптимизации.
Кроме того, Нараянан не согласился с методологией исследования, раскритиковав ее за то, что она оценивает исполняемость кода, а не его корректность.
Я надеюсь, это делает очевидным, что все, что написано в статье, соответствует тонкой настройке. Возможно, OpenAI всех запугивает, но если это так, то данная статья не предоставляет доказательств этого. Тем не менее, это увлекательное исследование непредвиденных последствий обновления моделей.
- Арвинд Нараянан (@random_walker) 19 июля 2023 года
Нараянан заключил: "Короче говоря, все, что написано в статье, согласуется с тонкой настройкой. Возможно, OpenAI запугивает всех, отрицая, что они снизили производительность в целях экономии - но если это так, то данная статья не предоставляет доказательств этого. Тем не менее, это увлекательное исследование непредвиденных последствий обновления моделей".
Обсудив статью в серии твитов, Нараянан и его коллега Саяш Капур отправились исследовать ее дальше в исследовании Запись в блоге Substack.
В новой записи в блоге, @random_walker и я изучаю документ, свидетельствующий о снижении производительности GPT-4.
В оригинальной статье первичность проверялась только на простых числах. Мы провели повторную проверку, используя простые и составные числа, и наш анализ показал другую историю. https://t.co/p4Xdg4q1ot
- Саяш Капур (@sayashk) 19 июля 2023 года
Они утверждают, что со временем меняется поведение моделей, а не их возможности.
Более того, они утверждают, что выбор заданий не позволяет точно прозондировать изменения в поведении, поэтому неясно, насколько хорошо полученные результаты будут распространяться на другие задачи.
Однако они согласны с тем, что изменения в поведении создают серьезные проблемы для тех, кто разрабатывает приложения с GPT API. Изменения в поведении могут нарушить сложившиеся рабочие процессы и стратегии подсказок - изменение поведения базовой модели может привести к сбою в работе приложения.
Они заключают, что, хотя работа не дает надежных доказательств деградации GPT-4, она служит ценным напоминанием о возможных непредвиденных последствиях регулярной тонкой настройки LLM, включая изменение поведения в определенных задачах.
Другие не согласны с мнением, что GPT-4 окончательно ухудшился. Исследователь искусственного интеллекта Саймон Уиллисон заявил: "Я не нахожу это очень убедительным", "Мне кажется, что они использовали температуру 0,1 для всего".
Он добавил: "Это делает результаты немного более детерминированными, но очень немногие реальные подсказки выполняются при такой температуре, поэтому я не думаю, что это много говорит нам о реальных случаях использования моделей".
Больше возможностей для открытого исходного кода
Само существование этих дебатов свидетельствует о фундаментальной проблеме: проприетарные модели - это "черные ящики", и разработчики должны лучше объяснять, что происходит внутри "ящика".
Проблема "черного ящика" ИИ описывает систему, в которой видны только входы и выходы, а "вещи" внутри ящика невидимы для внешнего наблюдателя.
Лишь несколько человек в OpenAI, вероятно, понимают, как именно работает GPT-4, и даже они, вероятно, не знают всей глубины того, как тонкая настройка влияет на модель с течением времени.
Сообщение в блоге OpenAI расплывчато: "Хотя большинство показателей улучшилось, в некоторых задачах производительность может ухудшиться". Опять же, ответственность за определение "большинства" и "некоторых задач" лежит на сообществе.
Суть проблемы заключается в том, что предприятиям, оплачивающим модели ИИ, нужна определенность, которую OpenAI не в состоянии обеспечить.
Возможное решение - модели с открытым исходным кодом, такие как новая разработка Meta Ллама 2. Модели с открытым исходным кодом позволяют исследователям работать с одними и теми же исходными данными и предоставлять повторяющиеся результаты с течением времени без неожиданной замены моделей разработчиками или отзыва доступа.
Исследователь ИИ доктор Саша Луччиони из Hugging Face также считает, что отсутствие прозрачности OpenAI является проблематичным. "Любые результаты, полученные на моделях с закрытым исходным кодом, не воспроизводятся и не проверяются, поэтому с научной точки зрения мы сравниваем енотов и белок", - говорит она.
"Ученые не обязаны постоянно следить за развернутыми LLM. Создатели моделей должны предоставлять доступ к базовым моделям, хотя бы для целей аудита".
Лучиони подчеркивает необходимость стандартизированных эталонов, чтобы облегчить сравнение различных версий одной и той же модели.
Она предложила разработчикам моделей ИИ предоставлять необработанные результаты, а не только высокоуровневые показатели, по таким распространенным эталонам, как SuperGLUE и WikiText, а также по таким эталонам предвзятости, как BOLD и HONEST.
Уиллисон согласен с Лучиони и добавляет: "Честно говоря, отсутствие примечаний к релизам и прозрачности, возможно, самая большая история здесь. Как мы должны создавать надежное программное обеспечение на платформе, которая меняется совершенно недокументированными и загадочными способами каждые несколько месяцев?"
Хотя разработчики ИИ не устают утверждать, что технология постоянно развивается, этот инцидент подчеркивает, что некоторый уровень регресса, по крайней мере в краткосрочной перспективе, неизбежен.
Споры вокруг моделей ИИ "черного ящика" и недостаточной прозрачности усиливают общественный резонанс вокруг моделей с открытым исходным кодом, таких как Llama 2.
Большие технологии уже признали, что они уступая позиции сообществу разработчиков с открытым исходным кодомИ хотя регулирование может уравнять шансы, непредсказуемость проприетарных моделей только повышает привлекательность альтернатив с открытым исходным кодом.
