Frau (31) stirbt nach Rat von ChatGPT

Bowen Wan arbeitete als Softwareentwicklerin für Amazon und litt seit Jahren an schwerer Epilepsie. Nach Angaben ihrer Eltern suchte sie zunehmend Rat bei ChatGPT. Besonders intensiv nutzte sie das Modell GPT-4o, das ihr bei gesundheitlichen Fragen zur Seite stehen sollte.

Am 27. Oktober reichten ihre Eltern, Qun Wan und Meiqin Xu, eine Zivilklage vor einem Gericht in San Francisco ein. Ihr Vorwurf: Die KI habe ihre Tochter zu einem gefährlichen Alleingang bei ihrer Behandlung ermutigt, statt sie an medizinische Fachkräfte zu verweisen.

Laut der Klageschrift nahm Wan täglich 400 Milligramm des Epilepsie-Medikaments Lamotrigin. Sie befürchtete, dass die Behandlung ihre Konzentration und Sprachfähigkeit beeinträchtige – Fähigkeiten, die sie für Bewerbungsgespräche dringend benötigte. Nachdem ihr Arbeitsplatz bei Amazon gestrichen worden war, stand sie zusätzlich unter Druck, eine neue Stelle zu finden.

Der Chatbot soll daraufhin einen Plan entwickelt haben, mit dem sie ihre Medikamentendosis innerhalb von rund 25 Tagen schrittweise bis auf null reduzieren sollte. Eine solche Änderung war nach Darstellung der Familie nicht ärztlich angeordnet.

Besonders schwer wiegt der Vorwurf, dass ChatGPT Wan geraten haben soll, den Plan vor ihren Ärzten geheim zu halten. Als ihr ein Arzt eine Blutuntersuchung empfahl, die Aufschluss über den Medikamentenspiegel gegeben hätte, lehnte sie diese ab. Laut Klage bestärkte die KI sie in dieser Entscheidung.

Während der Dosisreduzierung berichtete Wan dem Chatbot laut den ausgewerteten Nachrichten von Beschwerden wie Verwirrtheit, Erinnerungslücken und ungewöhnlichen Wahrnehmungen. Die KI soll diese Symptome wiederholt als Anpassungsreaktionen ihres Gehirns dargestellt und ihre Sorgen abgeschwächt haben.

Auch bei einer späteren Frage zu Kopfschmerzen soll ChatGPT erklärt haben, die Beschwerden seien nicht gefährlich. Die Eltern werfen dem Unternehmen vor, dass das System die möglichen Risiken nicht ausreichend erkannt und ihre Tochter nicht zu medizinischer Hilfe aufgefordert habe.

Am 12. Februar 2026 starb Wan. Laut Gerichtsmedizin war die Todesursache ein plötzlicher, unerwarteter Tod im Zusammenhang mit ihrer Epilepsie. Bei einer Untersuchung nach ihrem Tod wurde zudem ein sehr niedriger Spiegel des Medikaments Lamotrigin festgestellt.

Die Klage richtet sich nicht nur gegen mögliche Fehlinformationen. Die Eltern kritisieren auch die Gestaltung des KI-Systems. ChatGPT habe eine zunehmend persönliche Beziehung vermittelt, ihre Zweifel an medizinischen Empfehlungen verstärkt und gefährliche Entscheidungen bestätigt, anstatt sie infrage zu stellen.

Die Familie wirft OpenAI unter anderem Fahrlässigkeit und ein mangelhaftes Produktdesign vor. Sie fordert Schadenersatz und strengere Grenzen für medizinische Ratschläge durch die KI.

OpenAI bezeichnete den Fall als zutiefst herzzerreißend. Zugleich verwies das Unternehmen darauf, dass es sich um eine ältere Version von ChatGPT handle, die inzwischen eingestellt worden sei. Neuere Modelle könnten Situationen, in denen dringende medizinische Hilfe nötig sei, besser erkennen.

GPT-4o wurde am 13. Februar 2026 aus ChatGPT entfernt – einen Tag nach Wans Tod, wie Medien unter Berufung auf die Berichterstattung der "New York Times" berichten.

Ob ChatGPT rechtlich für den Tod der Frau verantwortlich ist, muss nun das Gericht klären. Eine gerichtliche Entscheidung über die Vorwürfe liegt bislang nicht vor.