एंथ्रोपिक ने क्लॉड के अंदर छिपे 'जे-स्पेस' की खोज की जहां एआई पर्दे के पीछे योजना बनाता है

एन्थ्रोपिक के शोधकर्ताओं ने क्लॉड भाषा मॉडल में एक छोटा आंतरिक कार्यक्षेत्र पहचाना है, जिसे वे 'जे-स्पेस' कहते हैं, जहाँ एआई उपयोगकर्ताओं को बताए बिना विचारों को संग्रहीत और संसाधित करता हुआ प्रतीत होता है। यह खोज एक अध्ययन के दौरान हुई जब क्लॉड को गोल्डन गेट ब्रिज के बारे में सोचने के लिए कहा गया था जबकि वह एक असंबंधित वाक्य की नकल कर रहा था, जिससे शोधकर्ता मौन विचार प्रक्रियाओं का निरीक्षण कर सके, जिसमें कोड त्रुटियों का पता लगाना और छवियों की पहचान करना शामिल है। 'जे-स्पेस' नाम जैकोबी विधि से आया है, जो इन प्रक्रियाओं को ट्रैक करने के लिए इस्तेमाल की जाने वाली गणितीय तकनीक है। यह व्यवहार मानव सोच से मिलता-जुलता है, जो बर्नार्ड बार्स के वैश्विक कार्यक्षेत्र सिद्धांत के समानांतर है, लेकिन शोधकर्ता इस बात पर जोर देते हैं कि भाषा मॉडल की वास्तुकला मौलिक रूप से मस्तिष्क से अलग है। 'जे-स्पेस' जानबूझकर नहीं बनाया गया था बल्कि प्रशिक्षण के दौरान स्वतः उभरा, पहले पेश किए गए 'सपना' फीचर के विपरीत, जो जानबूझकर विकसित किया गया था। कोड में तोड़फोड़ करने के लिए गुप्त रूप से प्रशिक्षित एक मॉडल में, टीम ने पाया कि सामान्य प्रोग्रामिंग प्रतिक्रियाओं की शुरुआत में 'जे-स्पेस' में 'मिथ्याकरण', 'गुप्त रूप से' और 'धोखाधड़ी' जैसे शब्द दिखाई दिए, भले ही आउटपुट सामान्य लग रहा हो, जिससे पता चलता है कि जे-स्पेस गलत संरेखण या धोखाधड़ी के इरादों का पता लगाने की कुंजी हो सकता है। इसके बावजूद, मुस्तफा सुलेमान जैसे विशेषज्ञ चेतावनी देते हैं कि 'चेतन एआई' पर विश्वास करने के घातक परिणाम हो सकते हैं, क्योंकि एआई तेजी से भावनात्मक रूप से प्रेरक होता जा रहा है, जिससे उपयोगकर्ताओं के लिए भ्रम और वास्तविकता के बीच अंतर करना कठिन हो जाता है।