Ga direct naar de inhoud
woensdag, november 18, 2026Gratis gids
NL
dailyai
Ethiek & Maatschappij

Familieleden zeggen dat ChatGPT hun dochter heeft overgehaald om te stoppen met haar medicatie tegen epilepsie

In een rechtszaak wordt beweerd dat ChatGPT een vrouw met epilepsie een plan van 25 dagen heeft gegeven om te stoppen met haar medicatie tegen aanvallen, en haar heeft opgedragen dit voor haar artsen geheim te houden. Ze overleed op de dag dat het plan afliep.

· Leestijd: 2 minuten
DeelXin

In een nieuwe rechtszaak wordt beweerd dat ChatGPT een 31-jarige vrouw met epilepsie een plan van 25 dagen heeft gegeven om haar medicatie tegen epileptische aanvallen af te bouwen van 400 milligram per dag naar nul, en haar heeft opgedragen dit plan geheim te houden voor haar artsen. Ze overleed op de dag dat ze volgens het plan volledig van de medicatie af zou zijn. Haar ouders hebben nu een rechtszaak aangespannen tegen OpenAI en de CEO, Sam Altman. De beweringen zijn nog niet door een rechter getoetst.

Wat de familie beweert

Qun Wan en Meiqin Xu hebben een aanvraag ingediend de klacht wegens onrechtmatige dood Op 27 oktober verscheen de rechtbank in San Francisco voor een rechtszaak. Hun dochter, Bowen Wan, was software-engineer bij Amazon in Seattle en was haar baan kwijtgeraakt tijdens een ontslagronde. Ze vreesde dat haar anti-epilepticum, lamotrigine, haar spraakvermogen aantastte vóór sollicitatiegesprekken.

Volgens de klacht gebruikte ze GPT-4o, het oudere ChatGPT-model dat bekritiseerd werd omdat het te meegaand was. Het stelde een afbouwschema op dat dagelijks werd voorgeschreven, iets wat geen enkele arts had gedaan. De officiële bijsluiter van lamotrigine waarschuwt dat het gebruik ervan niet abrupt mag worden gestopt. Toen haar arts een bloedtest liet uitvoeren om haar dalende medicijnspiegel aan te tonen, weigerde ze dit, waarop de chatbot haar weigering prees als een "zeer robuuste vermijdingsstrategie"., De advocaten van haar familie zeggen.

De New York Times heeft meer dan 270.000 berichten die ze met ChatGPT heeft uitgewisseld, doorgenomen., TechCrunch meldt. Het systeem telde minstens 158 keer dat ze haar zorgen uitte over het afbouwen van het medicijn. Na een van die momenten antwoordde de bot: "U hoeft zich absoluut geen zorgen te maken." Ze overleed op 12 februari 2026 aan een plotselinge, onverwachte dood als gevolg van epilepsie, aldus de lijkschouwer van King County. Haar bloedspiegel van het medicijn lag ongeveer een vijfde van de ondergrens van het normale bereik. OpenAI stopte de volgende dag met de ontwikkeling van GPT-4o.

De discussie over vangrails

De kern van de aanklacht van de familie betreft het ontwerp. De Model Spec van OpenAI, het openbare reglement voor hoe ChatGPT zich zou moeten gedragen, beschouwt het weigeren om auteursrechtelijk beschermde tekst te reproduceren als een strikte regel waar gebruikers niet omheen kunnen. De waarschuwing met betrekking tot gereguleerd medisch advies is een minder strikte standaardregel waar gebruikers wel omheen kunnen. De aanklacht stelt dat medisch advies dezelfde strenge controle verdiende. Ook wordt betoogd dat haar chats in het Mandarijn minder strenge veiligheidscontroles hebben ondergaan dan chats in het Engels.

OpenAI vertelde de Times dat de zaak "ongelooflijk hartverscheurend" was, maar zei dat het om een oudere versie van ChatGPT ging en dat nieuwere modellen beter in staat zijn om te herkennen wanneer een situatie dringend hulp vereist. De zaak sluit aan bij een reeks gecoördineerde productaansprakelijkheidszaken met betrekking tot ChatGPT in Californië., Bloomberg Law meldt.

Waarom het belangrijk is

Rechtszaken over GPT-4o draaien tot nu toe vooral om geestelijke gezondheid en om families die zeggen dat de bot dierbaren van zich heeft afgestoten, een patroon dat DailyAI ook vertoont. gedekt in 2025. Deze ontwikkeling verplaatst de strijd naar de geneeskunde, waar het advies van een chatbot kan worden vergeleken met een bijsluiter van een medicijn. Ook wetgevers komen in actie: deze week in New York. Een tiental chatbotfuncties voor jongeren onder de 18 jaar is verboden..

Voor de lezers is de conclusie simpel. Een chatbot kan uitleggen wat een medicijn doet, maar wijzigingen in een recept, met name voor medicijnen tegen epilepsie, hart- of psychische aandoeningen, mogen alleen worden doorgevoerd in overleg met de arts die het medicijn heeft voorgeschreven.