하나의 엔진으로 33개의 AI 에이전트 구축하기: 그중 다섯 개 살펴보기

지난 1년 동안 저자는 단일 엔진, 즉 단일 Docker 이미지와 코드베이스에 핵심 수정 없이 33개의 AI 에이전트를 구축했습니다. 에이전트는 아이를 위한 체스 코치부터 아내를 위한 비서, 튜터, 야금 및 에너지 회사를 위한 기업용 봇에 이르기까지 다양합니다. 주요 변수는 각 에이전트가 코드가 계산하는 것과 모델이 말하는 것 사이의 경계를 어디에 두느냐입니다. 개인 에이전트의 경우 모델이 직접 계산할 수 있지만, 기업용 에이전트에서는 최종 숫자를 절대 출력하지 않으며 입력 매개변수만 설정하므로 위험이 따릅니다. 도구 스키마는 도구가 30개를 넘어가면 프롬프트를 지배하기 시작합니다. 331개의 도구를 가진 CRM 관리자의 경우 JSON 스키마는 302KB, 즉 각 요청의 접두사에 약 75,000개의 토큰에 달합니다. 세 가지 구성 조정으로 프롬프트 토큰을 15,266개에서 1,424개로 줄이고 중앙 응답 시간을 17초에서 7.7초로 단축했습니다. 엔진은 NousResearch의 Hermes Agent로, 2025년 7월에 만들어진 비교적 새로운 코드베이스입니다. 에이전트는 주로 페르소나와 도구 세트에서 차이가 나며, 기사에서는 프롬프트 크기와 모델 선택을 비교한 표를 제공합니다. 또한 잔액 불일치와 프로덕션에서 호출되지 않은 5,863줄의 Python 코드와 같은 몇 가지 실패 사례도 논의됩니다.