WMS에서 텍스트-SQL 자동화: GPU 없이 로컬 LLM 선택하기

Aerosib-C의 한 개발자가 WMS(창고 관리 시스템)와 핸드헬드 터미널의 데이터를 기반으로 물류 서비스에 대한 인보이스 발행을 자동화하는 작업을 구현했습니다. 민감한 비즈니스 데이터를 제3자에게 전송하는 것을 피하기 위해 SQL 쿼리를 텍스트 설명에서 생성하는 데 로컬 LLM 모델이 선택되었습니다. 테스트는 30GB RAM과 비디오 가속기가 없는 Linux Debian 서버에서 수행되었습니다. 테스트된 7개 모델(deepseek-coder-v2:16b, gemma4:26b, qwen3-coder:30b, qwen3:14b, qwen3:30b, qwen3.5:9b) 중에서 올바른 SQL 코드를 생성한 모델은 gemma4:26b, qwen3:14b(최적이 아님), qwen3:30b의 세 개뿐이었습니다. 승자는 응답 시간이 매우 길었음에도(21분 이상) gemma4:26b였습니다. 전문화된 코더 모델이 추론 모델보다 성능이 떨어진다는 점이 지적되었습니다. 저자는 쿼리용 텍스트 설명 선택을 단순화하기 위해 서비스를 그룹으로 분류하는 전문가 시스템을 만들 계획입니다. 기사는 AI가 숙달하고 창의적으로 적용해야 할 도구이며, 이해할 수 없는 코드를 생성해서는 안 된다는 점을 강조하며 마무리됩니다.