OpenClaw-arkiston ilmainen lajittelu paikallisilla tekoälymalleilla
Hugging Face
Google/DeepMind
DeepSeek
Anthropic
Hugging Face -blogin kirjoittajat osoittivat, kuinka paikallisia Gemma- ja Qwen-malleja käytetään agenttimaisessa kokoonpanossa lajittelemaan OpenClaw-arkiston ongelmia ja vetopyyntöjä reaaliajassa. Järjestelmä käyttää lukumuotoista Pi-agenttia ja ilmoittaa Discordissa, mikä on halvempaa kuin suljetut mallit, kuten Claude tai GPT-5. Testit 330 esimerkillä osoittivat Qwenin olevan tarkempi ja Gemman nopeampi, ja molemmat poistavat käytännössä kaikki väärät positiiviset tulokset.
Hugging Face -blogin kirjoittajat kertoivat, kuinka he rakensivat reaaliaikaisen tehtävien ja PR:ien lajittelujärjestelmän OpenClaw-varastolle käyttämällä paikallisia avoimen painon malleja Gemma 4 26B ja Qwen 3.6 35B Pi-agenttikehyksessä. Idea syntyi sen jälkeen, kun Anthropic poisti viimeisimmän Claude Fable 5 -mallinsa, mikä vahvisti, että suljetut mallit voivat kadota milloin tahansa. Järjestelmä toimii paikallisella NVIDIA GB10 -järjestelmässä, jossa on 128 gigatavua yhtenäistä muistia. Luokittelussa käytetään agenttia, joka saa PR:n otsikon, rungon ja otteen, ja voi sitten suorittaa vain read-only-komentoja reposhellin (rajoitettu bash) kautta tai kutsua lopullisen JSON-muotoisen tuloksen. Tämä suojaa prompt-injektioilta. Orkestrointi perustuu gitcrawliin paikallista peilikuvaa varten ja localpageriin työjonoon. Testaus 330:lla issulla ja PR:llä osoitti: Gemma tuottaa F1-arvon 0,800 ajalla 1,41 sekuntia/rivi ja 402,6 tulostustokenia sekunnissa, Qwen F1-arvon 0,824 ajalla 13,51 sekuntia/rivi ja 145,3 tokenia sekunnissa, kun taas DeepSeek-V4-Flash (284B) tuottaa F1-arvon 0,811, mutta ajalla 144 sekuntia/rivi. Väärät positiiviset tulokset: Gemmalla 227, Qwenillä 106, DeepSeekillä 30. Kirjoittajat huomauttavat, että tarkkuutta parannetaan NVFP4-kvantisoinnilla Blackwellissa ja vLLM-optimoinnilla, ja kustannukset rajoittuvat sähköön.
Lähde: Hugging Face blog —
Alkuperäinen