Похоже, что ChatGPT дал сбой, выплевывая ответы от причудливых до бессмысленных.
Шумиха началась во вторник, когда недоумевающие пользователи стали заходить на сабреддит r/ChatGPT, делясь скриншотами странных выходок ИИ.
Один из пользователей подвел итог замешательству, сказав: "Это не только у вас, у ChatGPT случился инсульт".
После этого сообщество захлестнуло описание нестабильного поведения ChatGPT, в котором говорилось, что он "сходит с ума", "съезжает с катушек" и "бредит".
На фоне растущих разговоров на Reddit пользователь под ником z3ldafitzgerald поделился своим жутким опытом, заявив: "Это вызвало у меня точно такое же чувство, как наблюдение за тем, как кто-то медленно теряет рассудок либо от психоза, либо от слабоумия. Это первый раз, когда что-то связанное с ИИ вызывает у меня искренние мурашки".
По мере того как пользователи углублялись, встречи становились все более странными.
Один из пользователей, озадаченный ответом ChatGPT на простой вопрос о компьютерах, сделал скриншот поэтичного, но запутанного ответа ИИ: "Он делает это как доброе дело - паутину искусства для страны, мышь науки, легкую добычу для немногих печальных, и, наконец, глобальный дом искусства, всего лишь за одну работу в общем покое".
Спекуляции шли полным ходом.
Некоторые задавались вопросом, не была ли "температура" ИИ (управляющая случайностью результатов) поднята слишком высоко, что привело к непредсказуемым результатам, а другие размышляли, не виноваты ли в этом недавние обновления или новые функции.
Можно сказать, что воздействие было в основном доброкачественным, но оно оставило ощущение, что в машине есть "призрак". - a 'теневая личность' ждет своего часа.
Размышляя об этом инциденте, доктор Саша Луччиони из компании Hugging Face указала на уязвимость закрытых систем искусственного интеллекта.
Доктор Лучиони поделился: "API "черного ящика" могут сломаться в процессе производства, когда один из их базовых компонентов будет обновлен. Это становится проблемой, когда вы создаете инструменты на основе этих API, и они тоже ломаются. Именно здесь открытые исходные коды имеют большое преимущество, позволяя вам определить и устранить проблему!"
Когнитивист доктор Гэри Маркус подчеркнул, что галлюцинации могли бы быть не такими забавными, если бы эти модели были подключены к системам критической инфраструктуры или обороны.
"Великий сбой в работе ChatGPT" был исправлен. А OpenAI ничего не говорит о том, что стало его причиной? Учитывая растущую зависимость общества от этих инструментов, мы должны настаивать на прозрачности, особенно если эти инструменты будут использоваться в обороне, медицине, образовании, инфраструктуре и т. д.", - сказал он.
Великий сбой в работе ChatGPT был исправлен. OpenAI уже рассказала о причинах его возникновения?
Учитывая растущую зависимость общества от этих инструментов, мы должны настаивать на прозрачности, особенно если эти инструменты будут использоваться в обороне, медицине, образовании, инфраструктуре и т. д.
- Гэри Маркус (@GaryMarcus) 21 февраля 2024 года
Это не первый случай подобного поведения со стороны ChatGPT.
В 2023 году качество ГПТ-4 казалось таинственным образом меняются и уменьшаются. OpenAI в некоторой степени признала это, но не подала виду, что знает, почему это происходит.
Позже некоторые даже предположили, что ChatGPT страдал от сезонного аффективного расстройства (SAD)Один из исследователей обнаружил, что ChatGPT ведет себя по-разному, когда "думает", что сейчас декабрь, и когда "думает", что сейчас май.
ChatGPT периодически напоминает о непредсказуемой природе искусственного интеллекта. Мы не должны принимать его "объективность" как должное.
Случай антропоморфизации?
Непостоянное поведение ChatGPT также свидетельствует о нашей склонности антропоморфировать ИИ, приписывая технологии человекоподобные характеристики, эмоции или намерения.
Описания его причудливых действий, таких как ChatGPT "с инсультом", "сходит с ума" или "теряет рассудок", сразу же уподобляют его поведение нам самим.
Поскольку ChatGPT "фиксирует" глюки и непредсказуемое поведение с помощью естественного языка, он обманывает нас, предлагая человеческую интерпретацию.
Разумеется, ChatGPT не является разумным существом и не "страдает" никакими заболеваниями. Этому найдется рациональное объяснение, хотя и чрезвычайно сложное.
