Gratis OpenClaw-repository-triage met lokale AI-modellen
Hugging Face
Google/DeepMind
DeepSeek
Anthropic
De Hugging Face-blog beschrijft hoe lokale open-weight-modellen (Gemma 4 26B en Qwen 3.6 35B) werden gebruikt om issues en pull-requests in de OpenClaw-repository in realtime te triagen, ter vervanging van dure gesloten modellen. Het systeem gebruikt een agent-harnas met een beperkte shell (reposhell) voor veilige alleen-lezen-bewerkingen en bereikt een hoge doorvoer op een NVIDIA GB10-systeem.
De blog laat zien hoe de auteurs gesloten AI-modellen hebben vervangen door lokale open-weight modellen voor het triagen van issues en pull requests in de OpenClaw-repository, gemotiveerd door het risico dat gesloten modellen worden teruggetrokken (verwijzend naar de verwijdering van Anthropic's Claude Fable 5). Ze gebruiken een harnas genaamd 'localpager-agent' met reposhell (een beperkte read-only shell), waarmee het systeem elk item classificeert in categorieën zoals local_models, self_hosted_inference, enz. Ze testten Gemma 4 26B en Qwen 3.6 35B op een NVIDIA GB10-systeem (128 GB unified memory). Gemma behaalde een hogere recall (0,905) en doorvoer (1,41 seconden per rij, 16 gelijktijdige workers), terwijl Qwen een hogere precisie (0,831) en exacte match (0,540) had, maar 13,51 seconden per rij duurde met slechts 4 workers. Een semi-agentische architectuur gebruikt het LLM alleen voor classificatie; meldingen zijn regelgebaseerd. Het systeem verwerkt items via gitcrawl-mirroring, slaat resultaten op in SQLite en stuurt meldingen via Discord.
Bron: Hugging Face blog —
origineel