Автоматизация Text-to-SQL в WMS: выбор локальной LLM без GPU
DeepSeek
Google/DeepMind
Alibaba/Qwen
Разработчик логистической компании «Аэросиб-С» автоматизировал формирование SQL-запросов для выставления счетов с помощью LLM-моделей. Из-за требований безопасности использовались локальные модели, тестировавшиеся на Linux-сервере с 30 ГБ ОЗУ без GPU. Лучший результат показала gemma4:26b, хотя время ответа достигало десятков минут. Coder-модели уступили размышляющим. Планируется создание экспертной системы для классификации услуг.
Разработчик компании «Аэросиб-С» реализовал задачу автоматизации выставления счетов за логистические услуги на основе данных из WMS (системы управления складом) и ТСД. Для генерации SQL-запросов по текстовому описанию были выбраны локальные LLM-модели, чтобы исключить передачу чувствительных бизнес-данных третьим лицам. Тестирование проводилось на сервере Linux Debian с 30 ГБ оперативной памяти
Показать ещё ↓
- Сокращения
- WMS = Warehouse Management System — система управления складом
- ТСД — терминал сбора данных
- LLM = Large Language Model — большая языковая модель
- SQL = Structured Query Language — язык структурированных запросов
- DDL = Data Definition Language — язык определения данных
- GPU = Graphics Processing Unit — графический процессор
- RAM = Random Access Memory — оперативная память
- VRAM = Video Random Access Memory — видеопамять
Источник: Habr — хаб ИИ —
оригинал