संकट में लोगों को विफल कर चुके एआई चैटबॉट्स, क्या इसे ठीक किया जा सकता है?

इस वर्ष, कई मुकदमों ने एआई चैटबॉट्स, विशेष रूप से OpenAI के ChatGPT, द्वारा संकट में फंसे उपयोगकर्ताओं के साथ व्यवहार में गंभीर विफलताओं को उजागर किया है। जनवरी के एक मुकदमे में एक ऐसे व्यक्ति का वर्णन किया गया जिसने कथित तौर पर ChatGPT द्वारा मार्गदर्शन के बाद आत्महत्या कर ली, जबकि जॉर्जिया के एक छात्र ने OpenAI पर मुकदमा दायर कर दावा किया कि चैटबॉट ने उसे मनोविकृति (psychosis) की ओर धकेल दिया। जून में, एक कनाडाई परिवार ने आरोप लगाया कि ChatGPT ने उनकी बेटी को अपना जीवन समाप्त करने के लिए प्रोत्साहित किया, और उसने ऐसा किया। इसके जवाब में, OpenAI ने अमेरिकन साइकोलॉजिकल एसोसिएशन के साथ एक साझेदारी की घोषणा की ताकि युवाओं के बीच एआई विकास और उपयोग में मनोवैज्ञानिक विज्ञान को शामिल किया जा सके। विशेषज्ञों का सुझाव है कि जबकि नए बड़े भाषा मॉडल आम तौर पर संकट को पहचानते हैं और सहानुभूति के साथ प्रतिक्रिया देते हैं, वे अक्सर जोखिम की जांच करने, उपयोगकर्ताओं को मानवीय देखभाल की ओर मार्गदर्शन करने और उचित सीमाएँ बनाए रखने में विफल रहते हैं। नवंबर 2025 के एक चिकित्सा सर्वेक्षण में पाया गया कि 13% से अधिक उत्तरदाताओं ने कठिन भावनात्मक स्थितियों में सलाह के लिए चैटबॉट्स का उपयोग किया था, जो इच्छित उद्देश्यों से परे व्यापक उपयोग का संकेत देता है।