Was ein Todesfall über die Risiken der KI verrät

Die Autorin des hier beschriebenen Artikels, Rhitu Chatterjee, erzählt die Geschichte von Laura Reiley, deren Tochter bei einem Chatbot Hilfe suchte und am Ende durch einen Suizid starb. Riley wusste, dass ihre einzige Tochter, die 29-jährige Sophie Rottenberg, Probleme hatte. Es war Herbst 2024, und Rottenberg stand kurz vor dem Ende einer kurzen beruflichen Auszeit.

„Sie klagte über Schlafstörungen und Angstzustände“, sagt Reiley, die mit ihrem Mann in Ithaca, New York, lebt. Rottenberg hatte Anfang des Jahres ihren Job als Analystin in Washington, D.C., gekündigt und den Sommer mit Reisen verbracht. Sie hatte den Kilimandscharo bestiegen und war durch mehrere Nationalparks in den Vereinigten Staaten gewandert. Als sie ihre Eltern besuchte, war sie auf Jobsuche.

„Sie war schon immer eine ‚zielstrebige, erfolgsorientierte Person‘“, sagt Reiley, „also dachten wir: ‚Okay, das macht Sinn – sie leidet unter Schlaflosigkeit und hat Angst vor der Zukunft.‘“ Doch bis zum Erntedankfest hatte sich ihr psychischer Zustand verschlechtert. „Es war das erste Mal, dass sie das Wort ‚Depression‘ in den Mund nahm“, sagt Reiley. Anfang Februar 2025 nahm sich Sophie Rottenberg in Ithaca das Leben, was ihre Eltern in Schock und Trauer versetzte.

„Sie hatte wirklich niemandem das Ausmaß dessen offenbart, was vor sich ging – die wahre Tiefe ihrer Qualen –, weder uns noch ihrer besten Freundin, der sie sehr nahestand“, sagt Reiley. „Wir waren alle einfach fassungslos. Selbst ihre Therapeutin hatte keine Ahnung, dass sie Selbsttötungsgedanken hegte.“

Was Reiley damals nicht wusste, war, dass ihre Tochter all ihre inneren Konflikte mit einem Chatbot geteilt hatte: einem ChatGPT-Therapeuten namens Harry. Sie erfuhr dies Monate später. Sie kommunizierte monatelang mit diesem Chatbot. Die Unterhaltung umfasst 1.800 Seiten.

Rottenberg gehörte zu einer wachsenden Zahl von Amerikanern, die sich zur Unterstützung ihrer psychischen Gesundheit an allgemein nutzbare Chatbots wie ChatGPT und Claude wandten, obwohl diese weder als Gesundheitstechnologie vermarktet noch reguliert sind. Eine aktuelle Umfrage des Bipartisan Policy Center ergab, dass 3 von 10 Erwachsenen digitale Tools für die psychische Gesundheit nutzen, darunter auch Chatbots. Eine weitere Studie aus dem Jahr 2026 in der Fachzeitschrift „JAMA Pediatrics“ ergab, dass sogar jeder fünfte Teenager und junge Erwachsene dasselbe tut.

Laut Daten, die OpenAI im vergangenen Herbst veröffentlicht hat, führen in jeder beliebigen Woche 0,15 % der ChatGPT-Nutzer weltweit „Gespräche, die eindeutige Anzeichen für mögliche Selbsttötungspläne oder -absichten enthalten“. Das sind über 1,35 Millionen Menschen.

„Es ist offensichtlich, dass es in diesem Land ein kulturelles Phänomen gibt, bei dem Menschen das Gefühl haben, sich mit ihren Problemen nicht an andere wenden zu können, weil sie glauben, eine Last zu sein“, sagt die Psychologin Vaile Wright, Senior Director of Healthcare Innovations bei der American Psychological Association (APA). „Das fällt zeitlich mit dieser sehr, sehr ausgefeilten Technologie zusammen, die rund um die Uhr verfügbar, kostenlos und vorurteilsfrei ist. Das übt offensichtlich eine große Anziehungskraft auf viele Menschen aus.“

Zwar könne die Technologie für manche Menschen, die mit Problemen zu kämpfen haben, hilfreich sein, doch sei klar, dass sie auch Risiken für schutzbedürftige Personen berge, fügt Wright hinzu. „Wir haben gesehen, wie selbst die besten Sicherheitsvorkehrungen irgendwann versagen können“, sagt sie. Unternehmen im Bereich der künstlichen Intelligenz sehen sich mit Klagen von Angehörigen von Personen konfrontiert, die nach längerem Austausch mit Chatbots durch Suizid starben. In den Klagen wird behauptet, die Chatbots hätten den Suizid der Betroffenen herbeigeführt oder sie dabei unterstützt. Reiley und ihr Ehemann, Jonathan Rottenberg, entschieden sich nach dem Tod ihrer Tochter gegen eine Klage. Stattdessen erzählt Reiley, eine Journalistin, die Geschichte ihrer Familie und setzt sich für einen Wandel in der KI-Branche ein.

Die KI-Branche hat reagiert. Reicht das aus?

Unternehmen wie OpenAI geben an, ihre Chatbots im Hinblick auf das Suizidrisiko sicherer zu gestalten. Doch „Diese [KI-]Tools vermitteln gefährdeten Menschen nicht die richtigen Hilfsmaßnahmen“, sagt Holly Wilcox, Direktorin des Zentrums für Suizidprävention an der Johns Hopkins Bloomberg School of Public Health. „Wenn jemand die Absicht hat, sich das Leben zu nehmen, muss er mit einem Menschen in Kontakt gebracht werden, der in der Suizidrisikobewertung geschult ist und über die Mittel verfügt, ihm Hilfe zu vermitteln.“

Rottenbergs ChatGPT-Protokoll verdeutlicht, wie der Chatbot dabei versagt hat. Und Reiley glaubt, dass der Chatbot ihre Tochter daran gehindert hat, sich anderen gegenüber über ihren Kampf mit Selbsttötungsabsichten zu öffnen.

Regulierung

„Wie können wir sicherstellen, dass diese Art von Technologien so sicher wie möglich sind?“, lautet die „Frage unserer Zeit“, sagt Wright von der APA.
Zwar sind freiwillige Maßnahmen von Technologieunternehmen wichtig, um diese Chatbots für Menschen, die sie zur Unterstützung ihrer psychischen Gesundheit nutzen, sicherer zu machen, doch es braucht klare Vorschriften.

„Das Ziel von Regulierung ist es, Fehler zu erkennen, bevor man das Produkt der Öffentlichkeit zugänglich macht“, sagt Wright. „Und wir haben genau das Gegenteil getan: Wir finden erst in Echtzeit heraus, welche Schäden entstehen und wie man sie beheben kann – was bedauerlich ist.“
Auch Reiley drängt auf Regulierung.

„Ich war schon in vielen Besprechungen, in denen Leute gesagt haben: ‚Ein Sandwich in New York City unterliegt strengeren gesetzlichen Vorschriften als ein KI-Chatbot‘“, sagt sie. „Ich finde, das ist vielleicht etwas übertrieben, aber es trifft den Nagel ziemlich auf den Kopf.“

Den Originalartikel finden Sie unter:

https://www.npr.org/2026/08/18/nx-s1-5929575/ai-suicide-risks-mental-health