Пользователи утверждают, что ChatGPT начал говорить как демон, и это ‘прямо как в фильме ужасов’.

На этой неделе ChatGPT от OpenAI напугал пользователей ужасающим сбоем в работе голосового модуля, который некоторые называют сюжетом из фильма ужасов.

В посте на Reddit, быстро набравшем популярность, описывалось, как обычно спокойный голос “Сола” в ChatGPT превратился в пронзительный, демонический искаженный звук.

Вирусный пост в р/OpenAI сабреддит показал ChatGPT’голос “Сол”, Задуманный как "проницательный и непринужденный", этот звук внезапно превращается в визгливую, искаженную мешанину.

Внезапно нарастает потрескивание и статический шум, а голос переходит в яростные, искаженные вопли. Пользователи назвали этот опыт одновременно “смешным и ужасающим”.”

Это не был единичный случай.

Другие пользователи поделились похожими ужасающими историями, сообщая о случайных пронзительных свистках, искаженном смехе и смене голоса каждые несколько абзацев. “Это комната кошмаров”, — написал один из пользователей Reddit.

Фотография предоставлена Джонатан Кемпер на Unsplash

OpenAI В августе 2024 года был представлен улучшенный голосовой режим., демонстрируя поразительно человекоподобные взаимодействия, включая вдыхание, кашель и смех.

Его хвалили за реализм, но также вызвали опасения по поводу того, насколько неприятным может показаться искусственный интеллект, когда он перейдет в категорию “слишком человечного”.

Рис Роджерс из Wired Он предсказал этот дискомфорт ещё на раннем этапе. В ходе тестирования он столкнулся с зловещими помехами и тревожными вздохами в режиме голосового управления, назвав это ощущение “леденящим”.”

Тревожная реальность

В ходе собственных внутренних тестов безопасности OpenAI были обнаружены серьезные ошибки.

• • Голосовой режим может имитировать голос пользователя без его согласия.
  • В одном случае оно без предупреждения крикнуло: “Нет!”.
  • Согласно отзывам пользователей, появившимся вскоре после релиза, устройство также могло издавать крики по команде.

Эти сбои могут показаться технически незначительными. Но когда они накладываются на искусственный интеллект, пытающийся идеально имитировать человеческий голос и эмоции, они становятся крайне тревожными.

Почему это должно вас волновать

Голоса, сгенерированные искусственным интеллектом, проникают в повседневную жизнь, от ботов службы поддержки клиентов до цифровых компаньонов. Когда система, созданная для имитации человеческого голоса, внезапно начинает кричать или дает сбой, это не просто разрушает эффект погружения, а вызывает сильный страх.

Это подчеркивает риск внедрения искусственного интеллекта, максимально приближенного к человеческому, до того, как базовые системы станут стабильными. Улучшение звучания голосов ИИ создает невероятные возможности, но когда возникают сбои, становится очевидно, насколько хрупка и зловеща эта иллюзия на самом деле.

Мы хотим, чтобы наш ИИ звучал по-человечески, но, возможно, это не так. Слишком по-человечески. Особенно когда оно начинает кричать, словно одержимое.