Tự động hóa Text-to-SQL trong WMS: Chọn LLM cục bộ không cần GPU

Một nhà phát triển tại Aerosib-C đã triển khai tác vụ tự động hóa lập hóa đơn cho các dịch vụ hậu cần dựa trên dữ liệu từ WMS (hệ thống quản lý kho) và thiết bị đầu cuối cầm tay. Các mô hình ngôn ngữ lớn (LLM) cục bộ được chọn để tạo truy vấn SQL từ mô tả văn bản nhằm tránh chuyển dữ liệu kinh doanh nhạy cảm cho bên thứ ba. Thử nghiệm được tiến hành trên máy chủ Linux Debian với 30 GB RAM và không có bộ tăng tốc video. Trong số bảy mô hình được thử nghiệm (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b), chỉ có ba mô hình tạo ra mã SQL chính xác: gemma4:26b, qwen3:14b (không tối ưu) và qwen3:30b. Người chiến thắng là gemma4:26b, mặc dù thời gian phản hồi rất lâu (hơn 21 phút). Người viết lưu ý rằng các mô hình mã hóa chuyên dụng hoạt động kém hơn các mô hình suy luận. Tác giả dự định tạo một hệ thống chuyên gia phân loại dịch vụ thành các nhóm để đơn giản hóa việc chọn mô tả văn bản cho truy vấn. Bài báo kết luận bằng cách nhấn mạnh rằng AI là công cụ cần được làm chủ và áp dụng sáng tạo, thay vì tạo ra mã khó hiểu.