ChatGPT empieza a hablar como un demonio; los usuarios dicen que es "sacado directamente de una película de terror".

Esta semana, ChatGPT de OpenAI sorprendió a los usuarios con un aterrador fallo de voz que algunos describen como sacado directamente de una película de terror.

Una publicación en Reddit que rápidamente ganó popularidad describía cómo la voz normalmente tranquila de "Sol" de ChatGPT se transformaba en una distorsión estridente y demoníaca.

Una publicación viral en el r/OpenAI El subreddit mostró ChatGPT’la voz de “Sol”, Diseñado para sonar "sofisticado y relajado", de repente se degrada en un desastre estridente y distorsionado.

De repente, se escucha un crepitar estático y la voz se transforma en chillidos furiosos y distorsionados. Los usuarios describieron la experiencia como "hilarante y aterradora a la vez".“

No fue un hecho aislado.

Otros usuarios compartieron historias de terror similares, reportando silbidos agudos aleatorios, risas distorsionadas y cambios de voz cada pocos párrafos. "Es una habitación de pesadilla", escribió un usuario de Reddit.

Foto de Jonathan Kemper en Unsplash

OpenAI Introdujo un modo de voz mejorado en agosto de 2024., mostrando interacciones sorprendentemente parecidas a las humanas, completas con inhalando, tosiendo y riendo.

Fue elogiada por su realismo, pero también suscitó inquietudes sobre lo inquietante que podría resultar la IA cuando se adentra en el terreno de lo "demasiado humano".

Reece Rogers en Wired Predijo esta incomodidad desde el principio. Durante las pruebas, se topó con estática inquietante y jadeos perturbadores en el Modo Voz, calificando la experiencia de "escalofriante".“

La inquietante realidad

Las pruebas de seguridad internas de OpenAI detectaron fallos graves.

• • El modo de voz podría imitar la voz del usuario sin su consentimiento.
  • En un caso, gritó "¡No!" sin previo aviso.
  • Según informes de usuarios poco después de su lanzamiento, también podía gritar a petición.

Estos fallos pueden parecer insignificantes desde un punto de vista técnico. Pero cuando se suman a una IA que intenta imitar a la perfección la voz y las emociones humanas, resultan profundamente inquietantes.

Por qué debería importarte

Las voces generadas por IA se están incorporando a la vida cotidiana, desde los bots de atención al cliente hasta los asistentes digitales. Cuando un sistema diseñado para sonar humano grita o falla repentinamente, no solo rompe la inmersión, sino que provoca un miedo visceral.

Se destaca el riesgo de implementar IA altamente humana antes de que los sistemas subyacentes sean estables. Lograr que las voces de la IA suenen más naturales crea oportunidades increíbles, pero cuando surgen fallos, se evidencia lo frágil e inquietante que es realmente esa ilusión.

Queremos que nuestra IA suene humana, pero tal vez no. demasiado humano. Sobre todo cuando empieza a gritar como si estuviera poseído.