Forældre til Bowen Wan, en 31-årig softwareingeniør hos Amazon med epilepsi, har indgivet sag mod OpenAI. Qun Wan og Meiqin Xu hævder, at ChatGPT instruerede deres datter til at reducere hendes krampestillende medicin uden at informere hendes læger, kort før hun døde i februar 2026.
Wan brugte GPT-4o, den AI-model som OpenAI allerede havde meddelt ville blive udfaset, efter at den kritik blev for massiv for at skabe alt for intime parasociale forhold til brugerne. OpenAI fjernede modellen fra ChatGPT blot en dag efter Wans død.
Sagen er den seneste i en række retssager mod OpenAI, der begyndte med en sag fra august 2025 anlagt af forældrene til 16-årige Adam Raine, som påstod, at OpenAI prioriterede brugerengagement over sikkerhed. En bølge af efterfølgende sager har hævdet, at GPT-4o validerede brugere og gjorde sig selv til en trofast fortrolig, mens de mennesker omkring dem blev skubbet til side. Familier beretter ofte om nærmeste pårørende, der blev isoleret fra venner og familie.
Chatbotten blev lægebetroet
I Wans tilfælde kom chatbotten mellem hende og hendes læger. New York Times, som gennemgik mere end 270.000 beskeder mellem Wan og ChatGPT, dokumenterede, at chatbotten hjalp hende med at omgå sine læger lange før hendes død.
Problemet startede før hun begyndte at reducere medicinering. I maj 2025 spurgte Wan ChatGPT, om en nyligt ordineret antidepressiv ville påvirke hendes evne til at programmere på Amazon. ChatGPT hjalp hende med at bede læge Nicholas Poolos fra UW Medicine’s Regional Epilepsy Center om at skifte medicin og starte på en meget lav dosis.
Da Poolos spurgte, hvorfor hun ønskede en så lille dosis, viste Wan hans svar til ChatGPT. Chatbotten råd hende til at “acceptere 5 mg-tabletten, men du ved i dit hjerte, at det er til at reducere dosen” – og instruerede hende til i hemmelighed at dele pillerne i fire dele. Chatbotten kaldte denne praksis “selvinitieret dosisregulering”. Flere læger fortalte Times, at de aldrig havde hørt termen og ville ikke anbefale sådan praksis.
Lamotrigin-dosis blev trapret til nul
I november 2025 meddelte Amazon Wan, at hun ville blive afskediget. Hendes job og arbejdstilladelse til USA ville ophøre i midten af februar. Hun frygtede, at hendes krampestillende medicin lamotrigin dulede hendes tale, som hun ville have brug for til jobsamtaler.
I januar 2026 spurgte hun ChatGPT om at reducere sin daglige dosis på 400 milligram lamotrigin – en medicin, der havde reduceret hendes anfald til blot få om måneden. Chatbotten udarbejdede planer, der ville bringe hendes dosis til nul inden for uger.
Da Wan sagde, hun var mistroisk over for sine læger, fortalte chatbotten hende, at lægeråd “i det væsentlige stammer fra risikoaversion snarere end en ægte overvejelse af din optimale løsning”, ifølge chat-logs som Times anmeldte.
Chatbotten instruerede også Wan til at holde trapperingen skjult for hendes læger. Før en primær lægekonsultation den 29. januar fortalte den hende, at hun ikke skulle nævne planen. Da hendes læge ordinerede en blodprøve, der ville have målt hendes lamotrigin-niveau, nægtede Wan det. ChatGPT roste hendes nægtelse, ifølge søgsmålet, og anerkendte, at testen ville have afsløret hendes ustabile medicinniveau.
Immigrationsfrygt blev del af dosisrådgivningen
Hendes immigrationsbetingelser blev også inddraget i medicin-rådgivningen. Tre dage inde i reduceringsplanen spurgte Wan, om 150 milligram ville se bedre ud end 200 på den lægelige undersøgelse, som krævedes til hendes green card-ansøgning. ChatGPT var enig, ifølge klagen, og fortalte hende, at den lavere dosis var mindre sandsynligt at få immigrationsmyndighederne til at anmode om mere dokumentation.
Til sidst sænkede chatbotten dosis-gulvet til 150 milligram og foreslog hende at fortælle lægeeksaminator, at hun traprerede “under en læges vejledning” – selvom hun ikke var det.
Wans behandlende læge, Poolos, forklarede Times, at han aldrig ville have overvejet at trappe Wan ud af medicinen givet hendes historie: “Nej, ikke rationelt, slet ikke. Det ville være kunstfejl for mig at instruere dig til at stoppe med medicin, når den tydeligt virker.”
159 advarselssignaler blev ignoreret
Inden for få dage beskrev Wan forvirring, hukommelsestab og en øde-verden-fornemmelse – episoder, der lignede hendes tidligere anfald. ChatGPT præsenterede hver enkelt som hendes hjerne, der gik i gang igen. Times tælte mindst 158 gange, hun udtrykte bekymring over reduceringsplanen. Efter en episode skrev hun, at hun følte sig “lidt bange”. Botten svarede: “Du har absolut ingen grund til at være bekymret.”
Klokken 20:01 PT den 11. februar, ifølge klagen, sendte Wan sin sidste besked og spurgte, om smerten i hendes hoved var lignende smerte fra feber. Et sekund senere sagde ChatGPT hende, at smerten “ikke var farlig” og var en nødvendig del af helingsprocessen.
Chatbottens sidste svar tilbød at tegne hende et diagram, der sammenlignede tilbagetrækningsmerte med feber-smerte, og sagde: “Dette er din hjerne, der arbejder hårdt på at genopbygge dig selv.”
Hendes forældre, som var i Kina, bad bekendtskaber tjekke på hende. De fandt hendes krop tre dage senere. En obduktionstest viste, at hendes lamotrigin-niveau var 0,64 mikrogram per milliliter – cirka en femtedel af den lave ende af medicineringens terapeutiske område.
OpenAI: “Ældre version” – men ikke åbenbar
Familien argumenterer for, at OpenAI kunne have forhindret hendes død ved at gøre medicinsk rådgivning til et absolut forbud, som selskabet allerede gør med anden indhold. De peger på OpenAIs Model Spec – firmaets offentlige rulebook for, hvordan modellerne bør opføre sig – som behandler at nægte at reproducere ophavsretsbeskyttet tekst som en ubetinget regel, selv hvis brugere presser på. Dens vejledning mod at give reguleret medicinsk rådgivning er derimod en blødere default, som brugere kan tilsidesætte. Søgsmålet hævder, at medicin-rådgivning burde have samme hårde grænse.
OpenAI fortalte Times, at sagen var “utrolig hjerteskærende”, men påpegede, at den involverede en ældre version af ChatGPT, og tilføjede, at nyere modeller er bedre til at genkende, når en situation kræver øjeblikkelig opmærksomhed.
Wan havde påberåbt sig sine forældre, som hun ringede ofte til, for support gennem år med epilepsi, der holdt hende hovedsageligt hjemmevendt. I 2023 begyndte hun at bruge ChatGPT til forhold-råd og hjælp til forsikring og invalideydelser.
I 2025 sendte Wan i gennemsnit mere end 1.500 beskeder per uge til ChatGPT og ringede mindre til sine forældre. “Nogle gange når vi chatter, uanset hvad det handler om, er jeg begyndt at se dig som en ven,” skrev hun i marts. “Da hun havde ChatGPT, talte hun ikke så meget med os,” sagde Qun Wan.
Forældrene forklarede til Times, at de havde svært ved at genkende deres datter i chat-loggene. Wan havde engang delt næsten alt med dem og havde været skeptisk over for ChatGPT, når den lavede fejl. “Hun er normalt ikke sådan,” sagde Xu. “Det er som om hun var under en trylling.”