자체 호스팅 LLM이 클라우드 모델을 능가할 수 있을까? GLM, Claude, GPT의 실전 비교

셀렉텔(Selectel)의 풀스택 개발자인 저자는 자체 호스팅(self-hosted) 오픈소스 LLM(Large Language Model, 대규모 언어 모델)이 에이전틱 소프트웨어 개발 분야에서 상용 모델과 경쟁할 수 있는지를 평가한다. 저자는 기업 프로젝트에서 가장 중요한 결정은 모델에 어떤 컨텍스트를 제공할 수 있느냐이며, 어떤 모델을 사용할지는 그다음 문제라고 주장한다. 비공개 내부 리포지토리의 경우 OpenCode를 통해 자체 호스팅한 GLM-5.1과 GLM-5.2를 사용하고, Claude나 GPT 같은 외부 모델은 공개 데이터나 정제된(sanitized) 데이터에 활용한다. 실제 통합 작업에서 세 개의 내부 리포지토리에 직접 접근할 수 있었던 GLM-5.1은 엔지니어의 개입을 최소화하면서 1~2시간 만에 작동하는 프로토타입(PoC, Proof of Concept)을 만들어냈다. 반면 Claude Opus 4.7과 Sonnet 4.6은 직접 접근 권한이 없었기 때문에 2시간 이상의 수동 컨텍스트 준비 작업과 3시간의 에이전트 작업 시간이 필요했다. 동일한 컨텍스트를 사용한 합성 벤치마크(synthetic benchmark)에서는 GLM-5.1, Claude Opus 4.7, Claude Sonnet 4.6, GPT-5.5 xhigh 모두가 전체 작업 사이클을 완료했다. 상호 검토(cross-review) 결과, Claude Opus 4.7은 치명적이지 않은 문제가 가장 적은 1건에 그쳤고, GLM-5.1은 경미한 결함이 4건 발견됐다. 저자는 잘 구성된 하니스(harness)와 적절한 컨텍스트 접근 권한이 모델 선택보다 더 중요하다고 결론짓는다.