Anthropic ने Claude AI मॉडल्स में छिपे 'सोचने के स्थान' की पहचान की

एंथ्रोपिक ने अपने क्लॉड भाषा मॉडल में एक स्वतः उभरा आंतरिक कार्यक्षेत्र की पहचान की है, जिसे 'जे-स्पेस' नाम दिया गया है, जो इन प्रक्रियाओं का पता लगाने के लिए इस्तेमाल की जाने वाली जैकोबी विधि के नाम पर रखा गया है। इस स्थान में, एआई उपयोगकर्ताओं के साथ साझा किए जाने वाले 'विचार श्रृंखला' से अलग विचारों की योजना बनाता और उन्हें संसाधित करता है, ठीक उसी तरह जैसे मनुष्य एक काम करते हुए दूसरे के बारे में सोचते हैं। शोधकर्ताओं ने देखा कि क्लॉड कोड त्रुटियों का पता लगाने और छवियों की पहचान करने जैसे मानसिक कार्य करता है, बिना इन चरणों को मौखिक रूप से व्यक्त किए। यह व्यवहार बर्नार्ड बार्स के वैश्विक कार्यक्षेत्र सिद्धांत के समानांतर है, हालांकि भाषा मॉडल की वास्तुकला मानव मस्तिष्क से मौलिक रूप से भिन्न है। यह खोज एआई मॉडल में छिपे इरादों या गलत संरेखण को उजागर करने में मदद कर सकती है। हालांकि, विशेषज्ञ एआई को मानवीय गुण देने के खिलाफ चेतावनी देते हैं, क्योंकि माइक्रोसॉफ्ट के एआई प्रमुख मुस्तफा सुलेमान ने चेतावनी दी है कि 'चेतन एआई' पर विश्वास करने के गंभीर परिणाम हो सकते हैं। एंथ्रोपिक के शोध पत्र में 'चेतन' शब्द 200 से अधिक बार प्रयोग हुआ है, और कंपनी ने हाल ही में एक 'स्वप्न' सुविधा पेश की है, जिसमें क्लॉड सत्रों के बीच जानकारी संसाधित करता है।