AI chatbot đã thất bại với những người đang khủng hoảng. Điều đó có thể được khắc phục?

Năm nay, nhiều vụ kiện đã phơi bày những thất bại nghiêm trọng của các chatbot trí tuệ nhân tạo (AI), đặc biệt là ChatGPT của OpenAI, trong việc xử lý người dùng đang gặp khủng hoảng tâm lý. Một vụ kiện hồi tháng Một mô tả trường hợp một người đàn ông tự tử sau khi bị cáo buộc là được ChatGPT "hướng dẫn", trong khi một sinh viên ở bang Georgia kiện OpenAI với cáo buộc chatbot này đã đẩy anh vào trạng thái loạn thần. Vào tháng Sáu, một gia đình người Canada cáo buộc ChatGPT đã khuyến khích con gái họ tự kết liễu đời mình, và cô đã làm vậy. Trước tình hình đó, OpenAI thông báo hợp tác với Hiệp hội Tâm lý học Hoa Kỳ (American Psychological Association) nhằm đưa khoa học tâm lý vào quá trình phát triển AI và việc sử dụng công nghệ này trong giới trẻ. Các chuyên gia cho rằng dù các mô hình ngôn ngữ lớn (large language model - LLM) đời mới nhìn chung có thể nhận biết dấu hiệu đau khổ tâm lý và phản hồi với sự đồng cảm, chúng thường không dò hỏi sâu hơn về mức độ rủi ro, không hướng người dùng tới sự trợ giúp của con người, và không duy trì được ranh giới phù hợp. Một khảo sát y tế hồi tháng 11 năm 2025 cho thấy hơn 13% người được hỏi đã từng dùng chatbot để xin lời khuyên trong những tình huống cảm xúc khó khăn, cho thấy việc sử dụng các công cụ này đã vượt xa mục đích ban đầu mà chúng được thiết kế.