WMS में टेक्स्ट-टू-एसक्यूएल का स्वचालन: बिना GPU के स्थानीय LLM चुनना
DeepSeek
Google/DeepMind
Alibaba/Qwen
लॉजिस्टिक्स कंपनी एरोसिब-सी के एक डेवलपर ने इनवॉइसिंग के लिए एसक्यूएल क्वेरीज के जनरेशन को LLM मॉडल्स का उपयोग करके स्वचालित किया। सुरक्षा आवश्यकताओं के कारण, स्थानीय मॉडल्स का उपयोग किया गया, जिन्हें 30 जीबी रैम और बिना GPU वाले लिनक्स सर्वर पर परीक्षित किया गया। सबसे अच्छा परिणाम gemma4:26b द्वारा प्राप्त हुआ, हालांकि प्रतिक्रिया समय दसियों मिनट तक पहुंच गया। कोडर मॉडल्स रीज़निंग मॉडल्स से बेहतर प्रदर्शन करने में असफल रहे। योजनाओं में सेवा वर्गीकरण के लिए एक विशेषज्ञ प्रणाली का निर्माण शामिल है।
एरोसिब-सी के एक डेवलपर ने डब्ल्यूएमएस (वेयरहाउस मैनेजमेंट सिस्टम) और हैंडहेल्ड टर्मिनलों के डेटा के आधार पर लॉजिस्टिक्स सेवाओं के चालान स्वचालित करने का कार्य लागू किया है। संवेदनशील व्यावसायिक डेटा को तीसरे पक्ष को स्थानांतरित करने से बचने के लिए टेक्स्ट विवरण से एसक्यूएल क्वेरी उत्पन्न करने के लिए स्थानीय एलएलएम मॉडल चुने गए। परीक्षण 30 जीबी रैम और बिना वीडियो एक्सेलेरेटर वाले लिनक्स डेबियन सर्वर पर किया गया। परीक्षण किए गए सात मॉडलों (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b) में से केवल तीन ने सही एसक्यूएल कोड उत्पन्न किया: gemma4:26b, qwen3:14b (उप-इष्टतम), और qwen3:30b। विजेता gemma4:26b रहा, हालांकि इसका प्रतिक्रिया समय बहुत लंबा (21 मिनट से अधिक) था। यह नोट किया गया कि विशेषज्ञ कोडर मॉडल तर्क मॉडलों से खराब प्रदर्शन करते हैं। लेखक क्वेरी के लिए टेक्स्ट विवरण चुनने को सरल बनाने के लिए सेवाओं को समूहों में वर्गीकृत करने वाली एक विशेषज्ञ प्रणाली बनाने की योजना बना रहा है। लेख इस निष्कर्ष पर समाप्त होता है कि एआई एक उपकरण है जिसे महारत हासिल करने और रचनात्मक रूप से लागू करने की आवश्यकता है, बिना समझ से बाहर कोड उत्पन्न किए।
स्रोत: Habr — хаб ИИ —
मूल
