Automatización de Texto a SQL en WMS: Elegir un LLM Local Sin GPU
DeepSeek
Google/DeepMind
Alibaba/Qwen
Un desarrollador de la empresa de logística Aerosib-C automatizó la generación de consultas SQL para facturación utilizando modelos LLM. Por requisitos de seguridad, se usaron modelos locales, probados en un servidor Linux con 30 GB de RAM y sin GPU. El mejor resultado lo obtuvo gemma4:26b, aunque los tiempos de respuesta alcanzaron decenas de minutos. Los modelos de codificación fueron superados por los modelos de razonamiento. Los planes incluyen construir un sistema experto para la clasificación de servicios.
Un desarrollador de Aerosib-C ha implementado una tarea para automatizar la facturación de servicios logísticos basándose en datos del WMS (sistema de gestión de almacenes) y terminales portátiles. Se eligieron modelos de LLM (modelo de lenguaje grande) locales para generar consultas SQL a partir de descripciones textuales, con el fin de evitar transferir datos comerciales sensibles a terceros. Las pruebas se realizaron en un servidor Linux Debian con 30 GB de RAM y sin aceleradores de video. De los siete modelos probados (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b), solo tres produjeron código SQL correcto: gemma4:26b, qwen3:14b (subóptimo) y qwen3:30b. El ganador fue gemma4:26b, a pesar de un tiempo de respuesta muy largo (más de 21 minutos). Se observó que los modelos codificadores especializados funcionaron peor que los modelos de razonamiento. El autor planea crear un sistema experto que clasifique los servicios en grupos para simplificar la selección de descripciones textuales para las consultas. El artículo concluye enfatizando que la IA es una herramienta que debe dominarse y aplicarse de manera creativa, sin generar código incomprensible.
Fuente: Habr — хаб ИИ —
original