Mengotomatiskan Text-to-SQL di WMS: Memilih LLM Lokal Tanpa GPU
DeepSeek
Google/DeepMind
Alibaba/Qwen
Seorang pengembang di perusahaan logistik Aerosib-C mengotomatiskan pembuatan kueri SQL untuk penagihan menggunakan model LLM. Karena persyaratan keamanan, model lokal digunakan, diuji pada server Linux dengan RAM 30 GB dan tanpa GPU. Hasil terbaik dicapai oleh gemma4:26b, meskipun waktu respons mencapai puluhan menit. Model coder dikalahkan oleh model penalaran. Rencana termasuk membangun sistem pakar untuk klasifikasi layanan.
Seorang pengembang di Aerosib-C telah mengimplementasikan tugas untuk mengotomatiskan fakturasi layanan logistik berdasarkan data dari WMS (sistem manajemen gudang) dan terminal genggam. Model Large Language Model (LLM) lokal dipilih untuk menghasilkan kueri SQL dari deskripsi teks guna menghindari transfer data bisnis sensitif ke pihak ketiga. Pengujian dilakukan pada server Linux Debian dengan RAM 30 GB dan tanpa akselerator video. Dari tujuh model yang diuji (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b), hanya tiga yang menghasilkan kode SQL yang benar: gemma4:26b, qwen3:14b (suboptimal), dan qwen3:30b. Pemenangnya adalah gemma4:26b, meskipun waktu responsnya sangat lama (lebih dari 21 menit). Tercatat bahwa model koder khusus berkinerja lebih buruk daripada model penalaran. Penulis berencana membuat sistem pakar yang mengklasifikasikan layanan ke dalam kelompok untuk menyederhanakan pemilihan deskripsi teks bagi kueri. Artikel ini diakhiri dengan menekankan bahwa AI adalah alat yang perlu dikuasai dan diterapkan secara kreatif, tanpa menghasilkan kode yang tidak dapat dipahami.
Sumber: Habr — хаб ИИ —
asli