एक तंत्रिका नेटवर्क में संकेत के उद्भव के लिए एक शर्त के रूप में आत्म-विवरण
Anthropic
लेख एक तंत्रिका नेटवर्क में एक संकेत—एक अलग, बाहरी रूप से पढ़ने योग्य इकाई—के गठन में आत्म-विवरण (रिपोर्ट) की भूमिका का पता लगाता है। सूक्ष्म-मॉडलों का उपयोग करते हुए, लेखक दिखाता है कि किसी नियम को नाम देने की आवश्यकता के बिना, वह क्रिस्टलीकृत नहीं होता, भले ही गणना हो रही हो। आत्म-विवरण तैयार ज्ञान को प्रतिबिंबित नहीं करता बल्कि उसका गठन करता है, नेटवर्क को एक कैलकुलेटर से एक आदिम सोच प्रणाली में बदल देता है। यह तंत्र बड़े मॉडलों में मतिभ्रम की घटना की भी व्याख्या करता है।
लेखक एंथ्रोपिक द्वारा खोले गए जे-स्पेस का विश्लेषण जारी रखते हैं, दो प्रश्नों पर ध्यान केंद्रित करते हुए: एक मेटासाइन की संभावना और तंत्रिका नेटवर्क के आत्म-विवरण का सार। सूक्ष्म-मॉडल (चार परतों) पर प्रयोगों ने दिखाया कि एक मेटासाइन—एक संकेत जो कई बुनियादी संकेतों को जोड़ता है—सीखने और मापने योग्यता की समस्याओं के कारण प्राप्त नहीं किया जा सका; लेखक सुझाव देते हैं कि इसे विशेषज्ञों के मिश्रण में खोजा जाना चाहिए। हालांकि, आत्म-विवरण एक अधिरचना नहीं बल्कि एक संकेत के उद्भव के लिए एक शर्त निकला: एक रिपोर्ट हेड वाला नेटवर्क, जो लागू किए जा रहे नियम का नाम बताने के लिए बाध्य है, हमेशा एक नियंत्रण अक्ष क्रिस्टलीकृत करता है, जबकि रिपोर्ट के बिना ऐसा कभी नहीं होता, और दोनों मामलों में कार्य को हल करने की सटीकता समान होती है। नाम क्षमता से पहले प्रकट होता है: हज़ारवें एपॉक पर, नियम लगभग पूरी तरह से पढ़ा जाता है, हालांकि मुख्य कार्य यादृच्छिकता के स्तर पर हल होता है। रिपोर्ट के बिना, संरचना विघटित हो जाती है; रिपोर्ट के साथ, यह 40,000 एपॉक तक बनी रहती है। लेखक निष्कर्ष निकालते हैं कि नाम बताने की आवश्यकता किसी तैयार चीज़ को लेबल नहीं करती बल्कि संगणनात्मक प्रवाह से एक स्थिर वस्तु को काटती है। रिपोर्ट हेड की अपेक्षा सामग्री के प्रति अंधी होती है—यह एक प्रस्तुत करने योग्य इकाई की मांग करती है लेकिन उसकी सत्यता की पुष्टि नहीं करती; यह संकेत और मतिभ्रम दोनों को जन्म देता है। तंत्रिका नेटवर्क के आत्म-मॉडलिंग (अपनी स्वयं की अवस्थाओं के विवरण के रूप में रिपोर्ट) के बारे में परिकल्पना का सूक्ष्म-नेटवर्क की सीमाओं के कारण परीक्षण नहीं किया जा सका; परोक्ष रूप से, रिपोर्ट और वास्तविक संगणना के बीच विचलन इसका समर्थन करता है।
स्रोत: Habr — хаб ИИ —
मूल
