Automatisierung von Text-zu-SQL im WMS: Auswahl eines lokalen LLM ohne GPU

Ein Entwickler bei Aerosib-C hat eine Aufgabe zur Automatisierung der Rechnungsstellung für Logistikdienstleistungen auf der Grundlage von Daten aus dem Lagerverwaltungssystem (Warehouse Management System, WMS) und Handterminals umgesetzt. Für die Generierung von SQL-Abfragen aus Textbeschreibungen wurden lokale Large Language Modelle (LLMs) ausgewählt, um die Übertragung sensibler Geschäftsdaten an Dritte zu vermeiden. Getestet wurde auf einem Linux-Debian-Server mit 30 GB Arbeitsspeicher und ohne Videobeschleuniger. Von sieben getesteten Modellen (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b) erzeugten nur drei korrekten SQL-Code: gemma4:26b, qwen3:14b (suboptimal) und qwen3:30b. Der Gewinner war gemma4:26b, trotz einer sehr langen Antwortzeit (über 21 Minuten). Es wurde festgestellt, dass spezialisierte Coder-Modelle schlechter abschnitten als Reasoning-Modelle. Der Autor plant, ein Expertensystem zu erstellen, das Dienstleistungen in Gruppen einteilt, um die Auswahl von Textbeschreibungen für Abfragen zu vereinfachen. Der Artikel endet mit der Betonung, dass KI ein Werkzeug ist, das man beherrschen und kreativ anwenden muss, ohne unverständlichen Code zu erzeugen.