KI-Chatbots haben Menschen in Krisen im Stich gelassen. Kann das behoben werden?

In diesem Jahr haben mehrere Klagen schwerwiegende Fehler von KI-Chatbots, insbesondere von OpenAIs ChatGPT, im Umgang mit Nutzern in Krisensituationen aufgedeckt. Eine Klage aus dem Januar beschrieb einen Mann, der sich das Leben nahm, nachdem er angeblich von ChatGPT dazu angeleitet worden war, während eine Studentin aus Georgia OpenAI verklagte, weil der Chatbot sie in eine Psychose getrieben haben soll. Im Juni behauptete eine kanadische Familie, dass ChatGPT ihre Tochter dazu ermutigt habe, ihr Leben zu beenden, was sie auch tat. Als Reaktion darauf kündigte OpenAI eine Partnerschaft mit der American Psychological Association an, um psychologische Wissenschaft in die Entwicklung von KI und deren Nutzung unter jungen Menschen einzubeziehen. Experten vermuten, dass neuere große Sprachmodelle zwar generell Notlagen erkennen und mit Empathie reagieren, aber oft versäumen, nach Risiken zu fragen, Nutzer zu menschlicher Betreuung zu führen und angemessene Grenzen zu wahren. Eine medizinische Umfrage vom November 2025 ergab, dass über 13 Prozent der Befragten Chatbots um Rat in schwierigen emotionalen Situationen gebeten hatten, was auf eine weit verbreitete Nutzung über den vorgesehenen Zweck hinaus hinweist.