इंफ्रास्ट्रक्चर LLM एजेंट को झूठ न बोलने का प्रशिक्षण कैसे दें

एक आंतरिक रीड-ओनली एलएलएम एजेंट बनाया गया था जो बुनियादी ढांचे से जुड़े सवालों जैसे कि 'सर्विस 502 क्यों लौटा रही है?' का जवाब देता था। इसमें Go का उपयोग किया गया, LangChain का नहीं, और इसमें DeepSeek-V4-Flash और Qwen3.6-27B-FP8 मॉडल को OpenAI-संगत API के ज़रिए बुलाया गया। पहले वर्ज़न में एक मुफ्त ReAct लूप का उपयोग किया गया था और इसके जवाब औपचारिक रूप से सही लेकिन अक्सर भ्रामक होते थे। उदाहरण के लिए, जब प्रॉक्सी पर एक बहुत बड़े रिस्पॉन्स हेडर के कारण 502 त्रुटि हुई, तो एजेंट ने निष्कर्ष निकाला कि 'एप्लिकेशन लेवल पर कोई त्रुटि नहीं', जिससे असली कारण छूट गया। पाँच प्रकार की त्रुटियों की पहचान की गई: गलत दायरा, गलत समय शब्दार्थ, गलत नकारात्मक निष्कर्ष, साक्ष्य की हानि, और अनियंत्रित पुनर्नियोजन। इसका समाधान एलएलएम को एक सख्त एप्लिकेशन फ्रेमवर्क में एम्बेड करना था। टूल कॉल को एक विस्तारित अनुबंध x-agent द्वारा नियंत्रित किया जाता है जो साक्ष्य, आउटपुट प्रकार, ताजगी, नकारात्मक शब्दार्थ, और रीड-ओनली स्थिति को परिभाषित करता है। प्लानर पहले उद्देश्य (जैसे, symptom.http_502, route.edge_to_ingress) और एक रोक शर्त बनाता है: प्रत्येक आवश्यक उद्देश्य को हल किया जाना चाहिए या स्पष्ट रूप से अनुपलब्ध होना चाहिए। एक साक्ष्य गार्ड अंतिमनिर्धारक को सभी उद्देश्य पूरे होने से पहले निष्कर्ष निकालने से रोकता है। टूल चयन चरणबद्ध है: नीति फ़िल्टर, शाब्दिक प्रीफ़िल्टर, एलएलएम पुनर्क्रमण (शीर्ष 8), फिर उद्देश्य प्रासंगिकता द्वार। जोखिमपूर्ण आशयों के लिए नियतिवादी पूर्व-मार्ग होते हैं। अंतिम मूल्यांकन में, 45 में से 44 परिदृश्य पास हुए (29 में से 29 अनिवार्य), प्रत्येक को दो बार चलाया गया। एकमात्र विफल परीक्षण एक वैकल्पिक क्षमता रिपोर्ट प्रारूप था। एजेंट रीड-ओनली रहता है; प्रोडक्शन में बदलावों का निर्णय मनुष्य करते हैं।