비용의 절반은 LLM에: AI로 지원 및 영업 채팅을 자동화한 방법

LeaderChat는 원래 사람이 직접 상담하는 온라인 채팅 서비스로 시작했다. 팀은 고객 문의의 약 90%가 반복적인 내용이라는 점을 발견했지만, 기존의 챗봇들은 정확한 문구를 요구했기 때문에 효과가 없었다. 이후 등장한 현대적인 대형 언어 모델(LLM, Large Language Model)은 문맥과 의도를 이해함으로써 이 문제를 해결했다. 제품은 단 한 명의 고객도 잃지 않고 약 한 달 만에 전면 재구축되었다. 상담원 인터페이스를 대체하는, 다양한 LLM과 API(Application Programming Interface, 응용 프로그램 프로그래밍 인터페이스)로 연동되는 별도의 서비스도 개발되었다. 리드(lead) 한 건을 처리하는 비용은 사람이 직접 상담하는 방식에 비해 약 10배가량 절감되었다. 이 회사는 플랫폼이 아니라 결과를 판매하며, 설정과 연동, 그리고 고객사를 위한 AI 학습까지 모두 직접 처리한다. 현재 이 서비스는 Telegram, VK, MAX, 그리고 웹사이트 위젯에서 작동하고 있으며, 앞으로 Avito와 Instagram 지원도 계획하고 있다. 세 명으로 구성된 파트타임 팀이 매달 10만~15만 루블의 안정적인 이익을 창출하고 있다. 비용의 약 절반은 LLM 사용료와 인프라 유지에 들어간다. 회사는 대규모 광고에 투자하지 않고, 대신 추천과 파트너십에 의존하는데, 예를 들어 여행사를 위한 CRM(Customer Relationship Management, 고객관계관리) 솔루션인 U-ON.Travel과의 협업이 그 예다. 이 기사는 기술 자체만으로는 아무것도 해결하지 못한다고 결론짓는다. 중요한 것은 이미 작동하고 있는 프로세스를 찾아내어 그것을 더 빠르고, 더 저렴하고, 더 편리하게 만드는 것이다.