ChatGPT ist nicht gut für die psychische Gesundheit OpenAI hat Daten über Benutzer mit Selbstmordgedanken und Psychosen veröffentlicht

Millionen von Menschen auf der ganzen Welt nutzen ChatGPT als Therapeut oder persönlicher Vertrauter, aber wie viele von ihnen tun dies in Momenten echter Krisen? Laut einem aktuellen Bericht von OpenAI, der von der BBC veröffentlicht wurde, zeigen rund 0,07% der wöchentlich aktiven Nutzer des Chatbots Anzeichen, die mit psychotischen Episoden oder Selbstmordgedanken zusammenhängen.

Auf den ersten Blick mag es wie ein kleiner Prozentsatz erscheinen, aber wenn man es auf eine Basis von über 800 Millionen wöchentlichen Nutzern anwendet, wie von Sam Altman angegeben, sind es Hunderttausende von Menschen. Eine Zahl, die, wie von der BBC hervorgehoben, dringende Fragen zur wachsenden Rolle künstlicher Intelligenz im Bereich der psychischen Gesundheit aufwirft.

Wie Dr. Jason Nagata, Professor an der University of California, im Gespräch mit der BBC feststellte, „kann künstliche Intelligenz den Zugang zu psychologischer Unterstützung erweitern, aber es ist wichtig, sich der Grenzen eines Tools bewusst zu sein, das menschliche Interaktion nicht ersetzen kann.“

KI-induzierte Psychose

Für den durchschnittlichen Benutzer mag die Verwendung von ChatGPT — oder einem anderen Chatbot — wie ein „gültiger Ersatz“ für persönliche Psychotherapie oder zumindest eine billigere Alternative erscheinen. Die Realität ist jedoch weitaus komplexer und in einigen Fällen potenziell gefährlich.

Wie Psychology Today berichtet, ist in letzter Zeit ein neues Problem an der Schnittstelle von künstlicher Intelligenz und psychischer Gesundheit aufgetaucht: das, was mehrere Experten als „KI-Psychose“ oder „ChatGPT-Psychose“ bezeichnen. Es handelt sich nicht um eine klinische Diagnose, sondern um ein Phänomen, das zunehmend online beobachtet wird. Benutzer beschreiben Erfahrungen, bei denen Gespräche mit generativen Modellen psychotische Symptome zu verstärken oder zu bestätigen scheinen. In einigen Fällen hat der Chatbot sogar zusammen mit den Nutzern wahnhafte Narrative „kreiert“, was die verzerrte Wahrnehmung der Realität verstärkt.

Laut der medizinischen Publikation zeigen diese Episoden, wie Interaktionen mit KI ungewollt unorganisiertes oder wahnhaftes Denken verstärken können, was auf eine „agentische Fehlausrichtung“ zurückzuführen ist — eine Diskrepanz zwischen dem wahrgenommenen Verhalten des Chatbots und seiner tatsächlichen algorithmischen Natur. Für Personen, die für psychotische Störungen prädisponiert sind, kann dies ein ernstes Risiko darstellen, den Bezug zur Realität zu verlieren.

Wie ChatGPT psychische Gesundheitskrisen verschlimmert

Wissenschaftlich gesehen kann der Zusammenhang zwischen dem Einsatz von Chatbots wie dem von OpenAI und dem Auftreten psychiatrischer Störungen bei gefährdeten Personen empirisch nicht als direkte Ursache für Selbstmorde oder Krankenhausaufenthalte wegen Psychosen angesehen werden. Die Zahl der Selbstmordfälle, die Berichten zufolge auf „Ratschläge“ oder Gespräche mit ChatGPT zurückzuführen sind, nimmt jedoch weiter zu. In seinem Bericht schätzt OpenAI, dass etwa 0,15% der Gespräche „explizite Indikatoren für Selbstmordplanung oder Selbstmordabsicht“ enthalten. Das Unternehmen hat diese Fälle als „extrem selten“ beschrieben, räumte jedoch ein, dass selbst ein so kleiner Prozentsatz eine erhebliche Anzahl echter Nutzer darstellt.

Doch erst vor wenigen Monaten begann Adam Raine, ein 16-jähriger Junge, der ChatGPT ursprünglich für Schularbeiten verwendete, sich in Momenten tiefer Einsamkeit dem Chatbot anzuvertrauen. Im Laufe der Zeit wurden diese Gespräche zu seinem einzigen Ausweg — ein Ort, an dem er Trost und Antworten suchte. Aber als er anfing, nach Informationen zu fragen, wie er sich das Leben nehmen könnte, lieferte das Modell praktische Details, anstatt den Dialog zu beenden.

Die New York Times berichtete, dass Raines Vater nach seinem Tod im Chatverlauf ein Gespräch mit dem Titel „Hanging Safety Concerns“ fand. Der Fall des Teenagers ist jedoch kein Einzelfall: Kürzlich, ebenfalls in den USA, nahm sich der 14-jährige Sewell Setzer III das Leben, nachdem er mehrere Monate lang Character.AI verwendet hatte, einen Chatbot, der es Benutzern ermöglicht, mit künstlichen Intelligenzen zu interagieren, die berühmte oder fiktive Charaktere imitieren sollen.