Kostenlose Sortierung des OpenClaw-Repositorys mithilfe lokaler KI-Modelle
Hugging Face
Google/DeepMind
DeepSeek
Anthropic
Die Autoren des Hugging-Face-Blogs zeigten, wie lokale Gemma- und Qwen-Modelle in einem agentischen Setup genutzt werden, um Issues und Pull-Requests im OpenClaw-Repository in Echtzeit zu sortieren. Das System verwendet einen schreibgeschützten Pi-Agenten und benachrichtigt über Discord, was günstiger ist als geschlossene Modelle wie Claude oder GPT-5. Tests mit 330 Beispielen ergaben, dass Qwen genauer ist, während Gemma schneller ist, und beide eliminieren praktisch falsch-positive Ergebnisse.
Die Autoren des Hugging Face Blogs berichten, wie sie ein Echtzeit-Sortiersystem für Aufgaben und PRs für das OpenClaw-Repository aufgebaut haben – unter Verwendung lokaler Open-Weight-Modelle Gemma 4 26B und Qwen 3.6 35B in der Agenten-Umgebung Pi. Die Idee entstand, nachdem Anthropic sein neuestes Modell Claude Fable 5 entfernt hatte und damit bestätigte, dass geschlossene Modelle jederzeit verschwinden können. Das System läuft auf einem lokalen NVIDIA GB10 mit 128 GB einheitlichem Speicher. Für die Klassifikation wird ein Agent eingesetzt, der Titel, Text und einen Auszug aus dem PR erhält und dann nur read-only-Befehle über reposhell (ein eingeschränktes Bash) ausführen oder ein finales JSON mit dem Ergebnis aufrufen kann. Dies schützt vor Prompt-Injection. Die Orchestrierung basiert auf gitcrawl für ein lokales Spiegel-Repository und localpager für die Aufgabenwarteschlange. Tests mit 330 Issues und PRs ergaben: Gemma erreicht einen F1-Wert von 0,800 bei 1,41 Sekunden pro Zeile und 402,6 Ausgabe-Token pro Sekunde, Qwen einen F1-Wert von 0,824 bei 13,51 Sekunden pro Zeile und 145,3 Token pro Sekunde, und DeepSeek-V4-Flash (284B) einen F1-Wert von 0,811, aber 144 Sekunden pro Zeile. Bei Gemma gab es 227 Fehlalarme, bei Qwen 106 und bei DeepSeek 30. Die Autoren merken an, dass die Genauigkeit durch NVFP4-Quantisierung auf Blackwell und vLLM-Optimierungen steigt, während die Kosten auf Strom beschränkt sind.
Quelle: Hugging Face blog —
Original