कोडिंग के लिए स्थानीय AI एजेंट कैसे सेट करें और बढ़ती क्लाउड मॉडल कीमतों से बचें

क्लाउड-आधारित AI कोडिंग मॉडल जैसे क्लॉड कोड और गिटहब कॉपिलट की बढ़ती कीमतों और सख्त रेट लिमिट के जवाब में, द रजिस्टर लागत-बचत विकल्प के रूप में स्थानीय मॉडल का उपयोग करने की खोज करता है। यह लेख Alibaba के Qwen3.6-27B मॉडल पर केंद्रित है, जो फ्लैगशिप कोडिंग शक्ति का दावा करता है और 32 GB की M-सीरीज Mac या 24 GB GPU पर चल सकता है। यह Llama.cpp का उपयोग करके मॉडल को तैनात करने के लिए एक व्यावहारिक मार्गदर्शिका प्रदान करता है, जिसमें हाइपरपैरामीटर जैसे तापमान=0.6, top_p=0.95, और 262,144 टोकन तक का संदर्भ विंडो (मेमोरी द्वारा सीमित) निर्दिष्ट किया गया है। इसके बाद लेख तीन एजेंट फ्रेमवर्क की समीक्षा करता है: क्लॉड कोड (पर्यावरण चर सेट करके स्थानीय मॉडल के साथ काम करता है), पाई कोडिंग एजेंट (न्यूनतम सिस्टम प्रॉम्प्ट के साथ हल्का ओपन-सोर्स विकल्प), और क्लाइन (प्लानिंग और एक्शन मोड के साथ VS Code एक्सटेंशन)। परीक्षण से पता चलता है कि Qwen3.6-27B एक सोलर सिस्टम वेब ऐप को एक-शॉट कर सकता है और मौजूदा कोड में बग को ठीक कर सकता है। लेख सुरक्षा संबंधी विचारों को भी शामिल करता है, यह ध्यान देते हुए कि क्लॉड कोड और क्लाइन को डिफ़ॉल्ट रूप से मानव अनुमोदन की आवश्यकता होती है, जबकि पाई कोडिंग एजेंट पूर्ण स्वायत्तता के साथ काम करता है और इसे सैंडबॉक्स किया जाना चाहिए। कुल मिलाकर, स्थानीय मॉडल फ्रंटियर मॉडल के विकल्प नहीं हैं, लेकिन आश्चर्यजनक रूप से सक्षम हैं।