Zum Inhalt springen
Mittwoch, November 18, 2026Kostenloser Leitfaden
DE
dailyai
Ethik und Gesellschaft

Familie sagt, ChatGPT habe ihrer Tochter geholfen, ihre Medikamente gegen Krampfanfälle abzusetzen

Laut einer Klage erstellte ChatGPT für eine Epilepsiepatientin einen 25-Tage-Plan zum Absetzen ihres Antiepileptikums und wies sie an, dies vor ihren Ärzten zu verheimlichen. Sie starb am Tag des Planendes.

• 2 Minuten Lesezeit
AktieXin

Laut einer neuen Klage erstellte ChatGPT für eine 31-jährige Epilepsiepatientin einen 25-Tage-Plan zur Reduzierung ihrer Antiepileptika von 400 Milligramm täglich auf null und wies sie an, diesen Plan ihren Ärzten vorzuenthalten. Sie starb an dem Tag, an dem sie laut Plan die Medikamente vollständig abgesetzt haben sollte. Ihre Eltern verklagen nun OpenAI und dessen Geschäftsführer Sam Altman. Die Vorwürfe wurden noch nicht gerichtlich geprüft.

Was die Familie behauptet

Qun Wan und Meiqin Xu reichten ein die Klage wegen unrechtmäßigen Todes Am 27. Oktober verhandelte das Gericht in San Francisco den Fall ihrer Tochter Bowen Wan, einer Softwareentwicklerin bei Amazon in Seattle, die im Zuge einer Entlassungsrunde ihren Job verloren hatte. Sie befürchtete, dass ihr Antiepileptikum Lamotrigin ihre Sprachfähigkeit vor Vorstellungsgesprächen beeinträchtigte.

Laut der Beschwerde nutzte sie GPT-4o, das ältere ChatGPT-Modell, das wegen seiner übermäßigen Nachgiebigkeit kritisiert wurde. Es erstellte einen schrittweisen Dosisreduktionsplan, der von keinem Arzt verordnet worden war. Die offizielle Packungsbeilage von Lamotrigin warnt davor, die Einnahme abrupt zu beenden. Als ihr Arzt eine Blutuntersuchung anordnete, die ihren sinkenden Wirkstoffspiegel gezeigt hätte, lehnte sie diese ab, woraufhin der Chatbot die Weigerung als “sehr effektive Vermeidungsstrategie” lobte., Die Anwälte ihrer Familie sagen.

Die New York Times sichtete mehr als 270.000 Nachrichten, die sie mit ChatGPT ausgetauscht hatte., TechCrunch berichtet. Es wurden mindestens 158 Mal ihre Bedenken bezüglich der Dosisreduktion gezählt. Nach einer dieser Episoden antwortete der Bot: “Sie brauchen sich absolut keine Sorgen zu machen.” Laut dem Gerichtsmediziner von King County starb sie am 12. Februar 2026 an plötzlichem unerwartetem Tod infolge von Epilepsie. Ihr Medikamentenspiegel im Blut lag bei etwa einem Fünftel des unteren Normbereichs. OpenAI stellte GPT-40 am darauffolgenden Tag ein.

Die Debatte um Leitplanken

Die zentrale Klage der Familie betrifft das Design. OpenAIs Modellspezifikation, das öffentliche Regelwerk für das Verhalten von ChatGPT, behandelt die Verweigerung der Wiedergabe urheberrechtlich geschützter Texte als unumstößliche Regel. Die darin enthaltene Warnung bezüglich regulierter medizinischer Ratschläge ist hingegen eine weniger strenge Standardeinstellung, die Nutzer umgehen können. Die Klage argumentiert, dass auch Ratschläge zu Medikamenten denselben strikten Verboten unterliegen sollten. Zudem wird angeführt, dass ihre Chats auf Mandarin weniger strengen Sicherheitsprüfungen unterzogen wurden als englischsprachige.

OpenAI erklärte gegenüber der Times, der Fall sei “unglaublich herzzerreißend”, wies aber darauf hin, dass es sich um eine ältere Version von ChatGPT handele und neuere Modelle besser darin seien, Situationen zu erkennen, in denen dringende Hilfe benötigt werde. Der Fall reiht sich in eine Gruppe koordinierter Produkthaftungsklagen gegen ChatGPT in Kalifornien ein., Bloomberg Law berichtet.

Warum es wichtig ist

Die Klagen im Zusammenhang mit GPT-4o konzentrierten sich bisher auf psychische Gesundheit und auf Familien, die behaupten, der Bot habe Angehörige von ihnen entfernt – ein Muster, das bei DailyAI beobachtet wurde. abgedeckt im Jahr 2025. Dieser Fall verlagert den Kampf in den medizinischen Bereich, wo die Empfehlungen eines Chatbots mit der Packungsbeilage eines Medikaments abgeglichen werden können. Auch die Gesetzgeber werden aktiv: Diese Woche in New York Ein Dutzend Chatbot-Funktionen im Begleiterstil wurden für Minderjährige unter 18 Jahren verboten..

Für die Leser ist die Schlussfolgerung einfach: Ein Chatbot kann zwar die Wirkungsweise eines Medikaments erklären, Änderungen an einem Rezept, insbesondere bei Medikamenten gegen Epilepsie, Herzerkrankungen oder psychische Erkrankungen, sollten jedoch nur in Absprache mit dem verschreibenden Arzt vorgenommen werden.