WMS'de Metin-SQL Otomasyonu: GPU Olmadan Yerel Bir Yapay Zeka Modeli Seçimi
DeepSeek
Google/DeepMind
Alibaba/Qwen
Lojistik şirketi Aerosib-C'de bir geliştirici, fatura kesme için SQL sorgularının oluşturulmasını büyük dil modelleri (LLM) kullanarak otomatikleştirdi. Güvenlik gereksinimleri nedeniyle yerel modeller kullanıldı ve bunlar 30 GB RAM'e sahip GPU'suz bir Linux sunucusunda test edildi. En iyi sonuç gemma4:26b ile elde edildi, ancak yanıt süreleri onlarca dakikaya ulaştı. Kodlayıcı modeller, akıl yürütme modellerine göre daha düşük performans gösterdi. Planlar arasında hizmet sınıflandırması için bir uzman sistem oluşturmak yer alıyor.
Aerosib-C şirketinde bir geliştirici, WMS (depo yönetim sistemi) ve elde taşınabilir terminallerden gelen verilere dayanarak lojistik hizmetleri için fatura kesmeyi otomatikleştiren bir görevi uyguladı. Hassas iş verilerinin üçüncü taraflara aktarılmasını önlemek için metin açıklamalarından SQL sorguları oluşturmak üzere yerel LLM modelleri seçildi. Testler, 30 GB RAM ve video hızlandırıcı bulunmayan bir Linux Debian sunucusunda gerçekleştirildi. Test edilen yedi modelden (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b) yalnızca üçü doğru SQL kodu üretti: gemma4:26b, qwen3:14b (yetersiz) ve qwen3:30b. Kazanan, çok uzun yanıt süresine (21 dakikanın üzerinde) rağmen gemma4:26b oldu. Uzmanlaşmış kodlayıcı modellerin, akıl yürütme modellerine kıyasla daha kötü performans gösterdiği kaydedildi. Yazar, sorgular için metin açıklamalarını seçmeyi basitleştirmek amacıyla hizmetleri gruplara ayıran bir uzman sistem oluşturmayı planlıyor. Makale, yapay zekanın ustalaşılması ve yaratıcı bir şekilde uygulanması gereken bir araç olduğunu, anlaşılmaz kod üretmekten kaçınılması gerektiğini vurgulayarak sona eriyor.
Kaynak: Habr — хаб ИИ —
orijinal
