ChatGPT se met à parler comme un démon, les utilisateurs disent que c'est ‘ tout droit sorti d'un film d'horreur ’

Le robot ChatGPT d'OpenAI a surpris les utilisateurs cette semaine avec un bug vocal terrifiant que certains comparent à une scène tout droit sortie d'un film d'horreur.

Un message publié sur Reddit, qui a rapidement fait le buzz, décrivait comment la voix normalement calme de “ Sol ” de ChatGPT s'était transformée en une distorsion stridente et démoniaque.

Un message viral sur le r/OpenAI Le subreddit a montré ChatGPT’la voix de “ Sol ”, Conçue pour sonner “ avisée et détendue ”, elle se transforme soudainement en un brouhaha strident et distordu.

Soudain, des crépitements statiques se font entendre, et la voix se transforme en hurlements furieux et déformés. Les utilisateurs ont qualifié l'expérience à la fois d'“ hilarante et terrifiante ”.”

Ce n'était pas un événement isolé.

D'autres utilisateurs ont partagé des témoignages similaires, évoquant des sifflements aigus aléatoires, des rires déformés et des changements de voix toutes les quelques phrases. “ C'est une pièce cauchemardesque ”, a écrit un utilisateur de Reddit.

Photo par Jonathan Kemper sur Unsplash

OpenAI un mode vocal amélioré a été introduit en août 2024, présentant des interactions étonnamment humaines, avec inspirer, tousser et rire.

Il a été salué pour son réalisme, mais a également soulevé des inquiétudes quant à la façon dont l'IA pourrait se révéler troublante lorsqu'elle franchit le seuil du “ trop humain ”.

Reece Rogers chez Wired Il avait anticipé ce malaise dès le début. Lors des tests, il a rencontré des parasites inquiétants et des halètements troublants provenant du mode vocal, qualifiant l'expérience de “ glaçante ”.”

La réalité troublante

Les tests de sécurité internes d'OpenAI ont révélé de graves bugs.

• • Le mode vocal pourrait imiter la voix d'un utilisateur sans son consentement.
  • Dans un cas, il a crié “ Non ! ” sans prévenir.
  • Il pouvait également hurler sur commande, d'après les témoignages d'utilisateurs peu après sa sortie.

Ces dysfonctionnements peuvent paraître mineurs d'un point de vue technique. Mais, intégrés à une IA qui tente d'imiter parfaitement la voix et les émotions humaines, ils deviennent profondément inquiétants.

Pourquoi vous devriez vous en soucier

Les voix générées par l'IA s'intègrent à notre quotidien, des chatbots de service client aux assistants numériques. Lorsqu'un système conçu pour avoir une voix humaine se met soudainement à hurler ou à dysfonctionner, cela ne se contente pas de rompre l'immersion, cela déclenche une peur viscérale.

Cela met en lumière le risque de déployer une IA trop semblable à l'humain avant que les systèmes sous-jacents ne soient stables. Rendre les voix de l'IA plus naturelles ouvre des perspectives incroyables, mais lorsque des dysfonctionnements surviennent, cela révèle la fragilité et le caractère inquiétant de cette illusion.

Nous voulons que notre IA ait une voix humaine, mais peut-être pas. Trop humain. Surtout quand il se met à hurler comme s'il était possédé.