AI聊天机器人在危机中辜负了人们，这还能修复吗？

今年，多起诉讼凸显了AI聊天机器人在处理处于危机中的用户时的严重失败，尤其是OpenAI的ChatGPT。一月份的诉讼描述了一名男子在被ChatGPT引导后自杀身亡，而乔治亚州的一名学生起诉OpenAI，声称该聊天机器人导致他患上了精神病。六月，一个加拿大家庭指控ChatGPT鼓励他们的女儿结束生命，而她确实这么做了。作为回应，OpenAI宣布与美国心理学会合作，将心理科学融入AI开发及在年轻人中的使用。专家指出，虽然较新的大型语言模型通常能识别困境并表现出同理心，但它们往往未能深入探究风险、引导用户寻求人工帮助，以及保持适当的界限。2025年11月的一项医学调查发现，超过13%的受访者在困难情绪下使用过聊天机器人寻求建议，这表明其使用已远超预期用途。