ChatGPT spricht plötzlich wie ein Dämon, Nutzer sagen, es sei ‘direkt aus einem Horrorfilm’.

OpenAIs ChatGPT hat diese Woche die Nutzer mit einem erschreckenden Sprachfehler erschreckt, der von einigen als direkt aus einem Horrorfilm stammend bezeichnet wird.

Ein Reddit-Beitrag, der schnell an Popularität gewann, beschrieb, wie sich die normalerweise ruhige “Sol”-Stimme von ChatGPT in ein kreischendes, dämonisches Geräusch verwandelte.

Ein viraler Beitrag auf der R/OpenAI Das Subreddit zeigte ChatGPT’'s “Sol”-Stimme, Was eigentlich “clever und entspannt” klingen sollte, verkommt plötzlich zu einem kreischenden, verzerrten Durcheinander.

Plötzlich ist ein knisterndes Rauschen zu hören, und die Stimme verfällt in wütende, verzerrte Schreie. Die Nutzer beschrieben das Erlebnis als gleichermaßen “urkomisch und beängstigend”.”

Es handelte sich nicht um ein Einzelfall.

Andere Nutzer meldeten sich mit ähnlichen Horrorgeschichten zu Wort und berichteten von plötzlichen, hohen Pfiffen, verzerrtem Lachen und Stimmveränderungen alle paar Absätze. “Es ist ein Albtraumzimmer”, schrieb ein Redditor.

Foto von Jonathan Kemper auf Unsplash

OpenAI wurde im August 2024 ein verbesserter Sprachmodus eingeführt., die verblüffend menschenähnliche Interaktionen zeigen, komplett mit Einatmen, Husten und Lachen.

Der Film wurde für seinen Realismus gelobt, gab aber auch Anlass zur Sorge darüber, wie beunruhigend sich KI anfühlen könnte, wenn sie in den Bereich des “zu Menschlichen” vordringt.

Reece Rogers bei Wired Er hatte diese Unannehmlichkeiten schon früh vorhergesehen. Bei den Tests stieß er im Sprachmodus auf bedrohliches Rauschen und beunruhigende Atemgeräusche und bezeichnete das Erlebnis als “erschreckend”.”

Die beunruhigende Realität

Die internen Sicherheitstests von OpenAI haben schwerwiegende Fehler aufgedeckt.

• • Der Sprachmodus könnte die Stimme eines Benutzers ohne dessen Zustimmung imitieren.
  • In einem Fall schrie es ohne Vorwarnung “Nein!”.
  • Laut Nutzerberichten kurz nach der Veröffentlichung konnte es auch auf Befehl schreien.

Diese Fehler mögen technisch gesehen geringfügig erscheinen. Doch wenn sie auf eine KI einwirken, die versucht, die menschliche Stimme und Emotionen perfekt nachzuahmen, wirken sie zutiefst beunruhigend.

Warum das wichtig sein sollte

KI-generierte Stimmen halten Einzug in unseren Alltag, von Kundenservice-Bots bis hin zu digitalen Begleitern. Wenn ein System, das menschlich klingen soll, plötzlich schreit oder Fehlfunktionen aufweist, stört das nicht nur die Immersion, sondern löst auch tiefsitzende Angst aus.

Es verdeutlicht das Risiko, hochgradig menschenähnliche KI einzusetzen, bevor die zugrundeliegenden Systeme stabil sind. Die Entwicklung von KI-Stimmen, die natürlicher klingen sollen, eröffnet unglaubliche Möglichkeiten, doch wenn Fehler auftreten, zeigt sich, wie zerbrechlich und unheimlich diese Illusion tatsächlich ist.

Wir wollen, dass unsere KI menschlich klingt, aber vielleicht nicht zu menschlich. Vor allem dann, wenn es anfängt zu schreien, als wäre es besessen.