Teksti-SQL-automaatio WMS:ssä: Paikallisen LLM:n valinta ilman GPU:ta

Aerosib-C:n kehittäjä on toteuttanut tehtävän, joka automatisoi logistiikkapalveluiden laskutuksen WMS-järjestelmästä (varastonhallintajärjestelmästä) ja käsiterminaaleista saatavan datan perusteella. Paikalliset kielimallit valittiin SQL-kyselyjen luomiseen tekstikuvausten perusteella, jotta arkaluonteisia liiketoimintatietoja ei tarvitse siirtää kolmansille osapuolille. Testaus suoritettiin Linux Debian -palvelimella, jossa oli 30 Gt RAM-muistia eikä näytönohjaimia. Seitsemästä testatusta mallista (deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b) vain kolme tuotti oikean SQL-koodin: gemma4:26b, qwen3:14b (ei optimaalinen) ja qwen3:30b. Voittajaksi osoittautui gemma4:26b, vaikka sen vasteaika oli erittäin pitkä (yli 21 minuuttia). Havaittiin, että erikoistuneet kooderimallit suoriutuivat huonommin kuin päättelymallit. Kirjoittaja aikoo luoda asiantuntijajärjestelmän, joka luokittelee palvelut ryhmiin, jotta tekstikuvausten valinta kyselyjä varten yksinkertaistuu. Artikkeli päättyy toteamukseen, että tekoäly on työkalu, joka on opittava hallitsemaan ja jota on käytettävä luovasti, eikä sen tule tuottaa käsittämätöntä koodia.