Локальные модели ИИ для триажа репозитория OpenClaw: бесплатно и в реальном времени

Команда Hugging Face описала, как использует локальные open-weight модели для автоматического триажа Issues и Pull Requests в репозитории OpenClaw. Инцидент с удалением модели Claude Fable 5 от Anthropic подчеркнул важность локального ИИ-стека. Вместо дорогих облачных API (например, $200/мес за ChatGPT Pro) был создан агентный пайплайн на базе localpager-agent. Для классификации тестировались модели gemma-4-26b-a4b, qwen3.6-35b-a3b и DeepSeek-V4-Flash. Система использует безопасную read-only оболочку reposhell, предотвращающую prompt-инъекции. Агент получает заголовок, тело и выдержку из diff PR, может выполнять только разрешённые операции (ls, cat, grep и др.), а затем выводит метку в JSON-схеме. В одном примере модель откорректировала метки с coding_agent_integrations на inference_api и tool_calling после изучения метаданных расширения. Архитектура включает gitcrawl для локального зеркала репозитория, SQLite-базу и отправку уведомлений в Discord. В тесте на 330 Issues/PRs Gemma показала F1 0.800 при 402 токена/с, Qwen — F1 0.824 при 145 токена/с, а DeepSeek-V4-Flash — F1 0.811, но лишь 13 токена/с. Gemma-4-26b-a4b поддерживала до 32 одновременных запросов с пиком 700 токенов/с.