कॉलेज प्रोफेसर ने AI धोखाधड़ी पकड़ने के लिए छिपाया प्रॉम्प्ट, पाया कि मानव स्वभाव बिल्कुल वैसा ही है जैसा हम सोचते थे
NVIDIA
एक कॉलेज प्रोफेसर ने AI-जनित सबमिशन का पता लगाने के लिए एक असाइनमेंट में एक विशिष्ट प्रॉम्प्ट छिपाया, और परिणामों ने पुष्टि की कि मानव स्वभाव में ज्यादा बदलाव नहीं आया है। प्रयोग से पता चला कि जिन छात्रों ने धोखाधड़ी के लिए AI का उपयोग किया, वे अक्सर छिपे हुए निर्देशों को नोटिस करने या उनका पालन करने में विफल रहे, जो दर्शाता है कि वे असाइनमेंट को ध्यान से नहीं पढ़ रहे थे।
एक कॉलेज प्रोफेसर ने छात्रों को एआई का उपयोग करके धोखा देते हुए पकड़ने के लिए एक प्रयोग किया, जिसमें असाइनमेंट के निर्देशों में एक छिपा हुआ संकेत (प्रॉम्प्ट) डाला गया था। छिपे हुए संकेत में छात्रों से एक विशिष्ट वाक्यांश या क्रिया शामिल करने के लिए कहा गया था, लेकिन जिन्होंने अपने उत्तर उत्पन्न करने के लिए एआई पर भरोसा किया, वे अक्सर इसे चूक गए क्योंकि उन्होंने असाइनमेंट को पूरी तरह से नहीं पढ़ा था। परिणामों से पता चला कि एआई-जनित प्रतिक्रियाओं में व्यक्तिगत स्पर्श या विशिष्ट विवरण का अभाव था, जो दर्शाता है कि छात्र सामग्री के साथ सक्रिय रूप से जुड़े नहीं थे। प्रोफेसर के निष्कर्ष बताते हैं कि जहां एआई काम में मदद कर सकता है, वहीं यह वास्तविक समझ और विस्तार पर ध्यान की जगह नहीं ले सकता। यह प्रयोग शिक्षा में एआई के दुरुपयोग का पता लगाने की चुनौती और ऐसे असाइनमेंट डिजाइन करने के महत्व को उजागर करता है जिनके लिए आलोचनात्मक सोच की आवश्यकता होती है।
स्रोत: The Register AI/ML —
मूल
