उत्पन्न करना सस्ता, सत्यापित करना महंगा: एआई आउटपुट की छिपी लागत

यह लेख AI-जनित सामग्री को सत्यापित करने की चुनौती पर चर्चा करता है, जिसमें कम उत्पादन लागत और उच्च सत्यापन लागत के बीच विषमता पर जोर दिया गया है। नेशनल ताइवान विश्वविद्यालय के शोधकर्ताओं ने पाया कि भाषा मॉडल विभिन्न लोगों के बारे में सत्यापन योग्य तथ्यों को एक गैर-मौजूद व्यक्ति की जीवनी में जोड़ सकते हैं; मानक तथ्यात्मकता मेट्रिक्स ने इसे नहीं पकड़ा, और इकाई अस्पष्टता को समायोजित करने के बाद, चार खुले मॉडलों के स्कोर 10% से अधिक गिर गए। 'ध्यान से सत्यापित करें' नामक एक अध्ययन ने ग्यारह डेटासेट पर पांच तथ्यात्मकता मेट्रिक्स का परीक्षण किया, जिसमें विसंगतियां और त्रुटियां पाई गईं, विशेष रूप से जब सहायक पाठ दावे से दूर था। मानव प्रयोगों में, AI सहायता ने सत्यापन को तेज किया, लेकिन जब मॉडल ने ठोस लेकिन गलत स्पष्टीकरण दिए तो अति-विश्वास पैदा किया; पक्ष-विपक्ष दिखाने से यह कम हुआ लेकिन खोज की तुलना में कोई महत्वपूर्ण लाभ नहीं मिला। लेख विभिन्न डोमेन में सत्यापन की तुलना करता है: कोड में कंपाइलर और परीक्षण हैं, गणित में औपचारिक प्रमाण सत्यापन का उपयोग होता है (उदाहरण के लिए, अल्फाप्रूफ और अल्फाज्योमेट्री 2 ने 2024 अंतर्राष्ट्रीय गणितीय ओलंपियाड में चार समस्याएं हल कीं), लेकिन विश्लेषण और रणनीति को सत्यापित करना कठिन है। सुझावों में पहले स्रोत प्रस्तुत करना शामिल है, जैसे 'पहले विशेषता, फिर उत्पन्न करें', और तर्क चरणों की जांच के लिए प्रक्रिया पुरस्कार (थिंकPRM) का उपयोग करना। लेख में निस्ट के जोखिम-आधारित दृष्टिकोण और यूरोपीय AI अधिनियम का भी उल्लेख है, जो उच्च-जोखिम प्रणालियों के लिए अधिक दस्तावेज़ीकरण और निरीक्षण की आवश्यकता रखते हैं।