Automatizando Texto-para-SQL no WMS: Escolhendo um LLM Local Sem GPU

Um desenvolvedor da Aerosib-C implementou uma tarefa para automatizar a faturação de serviços de logística com base em dados do WMS (sistema de gestão de armazém) e terminais portáteis. Modelos LLM locais foram escolhidos para gerar consultas SQL a partir de descrições textuais, a fim de evitar a transferência de dados comerciais sensíveis para terceiros. Os testes foram realizados em um servidor Linux Debian com 30 GB de RAM e sem aceleradores de vídeo. Dos sete modelos testados (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b), apenas três produziram código SQL correto: gemma4:26b, qwen3:14b (subótimo) e qwen3:30b. O vencedor foi gemma4:26b, apesar de um tempo de resposta muito longo (mais de 21 minutos). Observou-se que modelos codificadores especializados tiveram desempenho inferior aos modelos de raciocínio. O autor planeja criar um sistema especialista que classifique os serviços em grupos para simplificar a seleção de descrições textuais para as consultas. O artigo conclui enfatizando que a IA é uma ferramenta que precisa ser dominada e aplicada de forma criativa, sem gerar código incompreensível.