AI-chatbots schieten tekort voor mensen in crisis. Is dat te verhelpen?

Dit jaar hebben meerdere rechtszaken ernstige tekortkomingen van AI-chatbots, met name OpenAI's ChatGPT, bij het omgaan met gebruikers in een crisis aan het licht gebracht. Een rechtszaak uit januari beschreef een man die zelfmoord pleegde nadat hij vermoedelijk door ChatGPT was gecoacht, terwijl een student in Georgia OpenAI aanklaagde omdat de chatbot hem naar verluidt in psychose had gedreven. In juni beweerde een Canadese familie dat ChatGPT hun dochter had aangemoedigd om een einde aan haar leven te maken, wat zij ook deed. Als reactie hierop kondigde OpenAI een samenwerking aan met de American Psychological Association om psychologische wetenschap te integreren in AI-ontwikkeling en -gebruik onder jongeren. Deskundigen suggereren dat hoewel nieuwere grote taalmodellen over het algemeen nood herkennen en met empathie reageren, ze vaak falen om te peilen naar risico's, gebruikers naar menselijke zorg te leiden en passende grenzen te handhaven. Een medisch onderzoek uit november 2025 wees uit dat meer dan 13 procent van de respondenten chatbots had gebruikt voor advies in moeilijke emotionele situaties, wat duidt op wijdverbreid gebruik buiten de beoogde doeleinden om.