Ilmaisia OpenClaw-arkiston seulontoja paikallisilla tekoälymalleilla
Hugging Face
Google/DeepMind
DeepSeek
Anthropic
Hugging Facen blogi kuvaa, kuinka paikallisia avoimen painon malleja (Gemma 4 26B ja Qwen 3.6 35B) käytettiin OpenClaw-arkiston ongelmien ja vetopyyntöjen seulontaan reaaliajassa, korvaten kalliit suljetut mallit. Järjestelmä käyttää agenttivaljaita, joissa on rajoitettu kuori (reposhell) turvallisia lukuoperaatioita varten, ja saavuttaa korkean suorituskyvyn NVIDIA GB10 -järjestelmässä.
Blogissa kerrotaan, kuinka kirjoittajat korvasivat suljetut tekoälymallit paikallisilla avoimilla painomalleilla OpenClaw-repositorion ongelmien ja vetopyyntöjen luokittelussa. Motivaationa oli suljettujen mallien poistamisen riski (esimerkkinä Anthropicin Claude Fable 5 -mallin poistaminen). Järjestelmä käyttää 'localpager-agent' -nimistä työkalua reposhellin (rajoitettu luku-only-komentotulkki) kanssa ja luokittelee jokaisen kohteen kategorioihin, kuten local_models, self_hosted_inference jne. Testauksessa käytettiin Gemma 4 26B- ja Qwen 3.6 35B -malleja NVIDIA GB10 -järjestelmällä (128 Gt yhtenäistä muistia). Gemma saavutti korkeamman tarkkuuden (0,905) ja suorituskyvyn (1,41 sekuntia riviä kohti, 16 samanaikaista työntekijää), kun taas Qwenilla oli korkeampi täsmällisyys (0,831) ja tarkka osuma (0,540), mutta se vei 13,51 sekuntia riviä kohti vain neljällä työntekijällä. Puoliagenttinen arkkitehtuuri käyttää suurta kielimallia vain luokitteluun; ilmoitukset perustuvat sääntöihin. Järjestelmä käsittelee kohteet gitcrawl-peilauksen avulla, tallentaa tulokset SQLite-tietokantaan ja lähettää ilmoitukset Discordiin.
Lähde: Hugging Face blog —
Alkuperäinen