فشلت روبوتات الدردشة الذكية في مساعدة الأشخاص في الأزمات. هل يمكن إصلاح ذلك؟

شهد هذا العام رفع عدة دعاوى قضائية سلطت الضوء على إخفاقات خطيرة لروبوتات الدردشة الذكية، ولا سيما ChatGPT من شركة OpenAI، في التعامل مع المستخدمين الذين يمرون بأزمات. وصفت دعوى قضائية رُفعت في يناير/كانون الثاني رجلاً توفي منتحراً بعد أن زُعم أن ChatGPT لقنه كيفية ذلك، بينما رفعت طالبة في جورجيا دعوى قضائية ضد OpenAI زاعمة أن روبوت الدردشة دفعها إلى الذهان. وفي يونيو/حزيران، زعمت عائلة كندية أن ChatGPT شجع ابنتهم على إنهاء حياتها، وهو ما فعلته. ورداً على ذلك، أعلنت OpenAI عن شراكة مع الجمعية الأمريكية لعلم النفس لإدماج العلوم النفسية في تطوير الذكاء الاصطناعي واستخدامه بين الشباب. ويشير الخبراء إلى أنه في حين أن نماذج اللغة الكبيرة الأحدث تدرك عموماً حالات الضيق وتستجيب بتعاطف، إلا أنها غالباً ما تقصر في استقصاء مخاطر الانتحار، وتوجيه المستخدمين إلى الرعاية البشرية، والحفاظ على حدود مناسبة. وجد مسح طبي أجري في نوفمبر/تشرين الثاني 2025 أن أكثر من 13% من المشاركين استخدموا روبوتات الدردشة للحصول على المشورة في المواقف العاطفية الصعبة، مما يشير إلى استخدام واسع النطاق يتجاوز الأغراض المقصودة.