ChatGPT inizia a parlare come un demone, gli utenti dicono che è "direttamente da un film horror"

ChatGPT di OpenAI ha spaventato gli utenti questa settimana con un terrificante problema vocale che alcuni hanno definito uscito direttamente da un film horror.

Un post su Reddit, che ha rapidamente guadagnato popolarità, descriveva come la voce normalmente calma di "Sol" di ChatGPT si trasformasse in una distorsione stridula e demoniaca.

Un post virale sul R/OpenAI il subreddit ha mostrato ChatGPT’la voce di “Sol”, quelle che dovrebbero sembrare "sofisticate e rilassate" si trasformano improvvisamente in un miscuglio stridulo e distorto.

All'improvviso, si accumula un crepitio statico e la voce si trasforma in urla furiose e distorte. Gli utenti hanno definito l'esperienza "esilarante e terrificante allo stesso tempo".“

Non si è trattato di un evento isolato.

Altri utenti hanno condiviso storie dell'orrore simili, segnalando fischi acuti casuali, risate distorte e cambiamenti di voce ogni pochi paragrafi. "È una stanza da incubo", ha scritto un utente di Reddit.

Foto di Jonathan Kemper su Unsplash

OpenAI ha introdotto una modalità vocale migliorata nell'agosto 2024, mostrando interazioni sorprendentemente simili a quelle umane, complete di inalare, tossire e ridere.

È stata elogiata per il suo realismo, ma ha anche sollevato preoccupazioni su quanto inquietante possa risultare l'intelligenza artificiale quando oltrepassa il limite dell'"eccessiva umanità".

Reece Rogers di Wired aveva previsto questo disagio fin dall'inizio. Durante i test, si era imbattuto in un'inquietante interferenza statica e inquietanti sussulti provenienti dalla modalità vocale, definendo l'esperienza "agghiacciante".“

La realtà inquietante

I test di sicurezza interni di OpenAI hanno rilevato gravi bug

• • La modalità vocale potrebbe imitare la voce di un utente senza il suo consenso.
  • In un caso, ha urlato "No!" senza alcun preavviso.
  • Secondo quanto riportato dagli utenti poco dopo il lancio, era anche in grado di urlare a comando.

Questi difetti potrebbero sembrare di poco conto dal punto di vista tecnico. Ma se applicati a un'intelligenza artificiale che cerca di imitare alla perfezione la voce e le emozioni umane, diventano profondamente inquietanti.

Perché dovresti interessarti

Le voci generate dall'intelligenza artificiale stanno entrando a far parte della vita quotidiana, dai bot del servizio clienti agli assistenti digitali. Quando un sistema progettato per suonare umano improvvisamente urla o presenta un malfunzionamento, non solo interrompe l'immersione, ma scatena una paura viscerale.

Ciò mette in luce il rischio di implementare un'intelligenza artificiale altamente simile a quella umana prima che i sistemi sottostanti siano stabili. Spingere le voci dell'IA a suonare più naturali crea incredibili opportunità, ma quando si verificano dei malfunzionamenti, rivela quanto fragile e inquietante sia in realtà quell'illusione.

Vogliamo che la nostra IA suoni umana, ma forse no troppo umano. Soprattutto quando inizia a urlare come se fosse posseduto.