MCP Gateway: как GraphQL-шлюз убирает раздувание промпта при десятках MCP-серверов

Разработчик Илья Гуляев исследует проблему масштабирования при использовании Model Context Protocol (MCP). Когда в инфраструктуре появляется несколько MCP-серверов, каждый инструмент со своим описанием и JSON-схемой аргументов попадает в системный промпт LLM. На тестовом стенде с несколькими серверами и примерно шестьюдесятью инструментами описания занимают около 30 тысяч токенов ещё до того, как пользователь задал вопрос. Чтобы решить эту проблему, он реализовал открытый проект vmcp — GraphQL-шлюз, который стоит перед парком MCP-серверов и выглядит как один виртуальный MCP. Шлюз реализует два паттерна: Discovery (подгрузка каталога по запросу) и Execute (пакетный вызов нескольких инструментов за один раунд). GraphQL выбран из-за встроенной агрегации, валидации, композиции и кэширования. Инструменты с readOnlyHint попадают под Query (параллельный fan-out), остальные — под Mutation (последовательное исполнение). Клиенту не нужно подгружать весь каталог — только необходимый срез схемы, что экономит десятки тысяч токенов на каждом запросе. Эксперимент показал, что при добавлении правила «BATCH EVERYTHING» в системный промпт доля single-shot вызовов достигает 85%, а среднее количество вызовов снижается до 1,23.