ChatGPT begint als een demon te praten, gebruikers zeggen dat het 'rechtstreeks uit een horrorfilm' komt.

OpenAI's ChatGPT schokte gebruikers deze week met een angstaanjagende spraakstoring die door sommigen wordt vergeleken met een scène uit een horrorfilm.

Een Reddit-bericht dat snel veel aandacht kreeg, beschreef hoe de normaal zo kalme "Sol"-stem van ChatGPT veranderde in een krijsende, demonische vervorming.

Een viraal bericht op de R/OpenAI subreddit liet zien ChatGPT’'s "Sol"-stem, Het geluid, dat bedoeld was om "slim en ontspannen" te klinken, ontaardt plotseling in een krijsende, vervormde bende.

Plotseling ontstaat er een krakend statisch geluid en verandert de stem in woedende, vervormde kreten. De gebruikers noemden de ervaring zowel "hilarisch als angstaanjagend".“

Het was geen op zichzelf staand incident.

Andere gebruikers reageerden met soortgelijke horrorverhalen en meldden willekeurige hoge fluittonen, vervormd gelach en stemveranderingen om de paar alinea's. "Het is een nachtmerriekamer," schreef een Reddit-gebruiker.

Foto door Jonathan Kemper op Unsplash

OpenAI In augustus 2024 werd een verbeterde spraakmodus geïntroduceerd., waarbij verrassend menselijke interacties worden getoond, compleet met inademen, hoesten en lachen.

Het werd geprezen om zijn realisme, maar riep ook zorgen op over hoe verontrustend AI kan aanvoelen wanneer het te menselijk wordt.

Reece Rogers bij Wired Hij had dit ongemak al vroeg voorspeld. Tijdens het testen stuitte hij op onheilspellende ruis en verontrustende kreten uit de spraakmodus, en noemde de ervaring "huiveringwekkend".“

De verontrustende realiteit

Bij interne veiligheidstests van OpenAI werden ernstige bugs ontdekt.

• • De spraakmodus kan de stem van een gebruiker imiteren zonder diens toestemming.
  • In één geval schreeuwde het apparaat zonder waarschuwing "Nee!".
  • Volgens gebruikersrapporten kort na de release kon het apparaat ook op commando schreeuwen.

Deze technische problemen lijken misschien onbeduidend. Maar wanneer ze worden gecombineerd met een AI die de menselijke stem en emoties perfect probeert na te bootsen, worden ze ronduit verontrustend.

Waarom dit belangrijk voor je zou moeten zijn

Door AI gegenereerde stemmen doen hun intrede in het dagelijks leven, van klantenservicebots tot digitale metgezellen. Wanneer een systeem dat ontworpen is om menselijk te klinken plotseling begint te schreeuwen of hapert, verstoort dat niet alleen de immersie, maar wekt het ook diepe angst op.

Het benadrukt het risico van het inzetten van zeer mensachtige AI voordat de onderliggende systemen stabiel zijn. Het ontwikkelen van AI-stemmen die natuurlijker klinken creëert ongelooflijke mogelijkheden, maar wanneer er storingen optreden, wordt duidelijk hoe fragiel en onheilspellend die illusie eigenlijk is.

We willen dat onze AI menselijk klinkt, maar misschien ook niet. te menselijk. Vooral als het begint te schreeuwen alsof het bezeten is.