基于本地AI模型对OpenClaw仓库进行免费分类

Hugging Face博客作者分享了如何利用本地开源模型Gemma 4 26B和Qwen 3.6 35B，在Pi代理框架中构建OpenClaw仓库实时任务与拉取请求分类系统的经验。这一想法的产生源于Anthropic删除其最新模型Claude Fable 5，证实闭源模型随时可能消失。该系统运行在配备128GB统一内存的本地NVIDIA GB10设备上。分类过程由代理完成：代理获取拉取请求的标题、正文及摘要，然后仅能通过reposhell（受限bash）执行只读命令，或调用包含最终结果的JSON——这种方式可有效防止提示注入。编排层基于gitcrawl（用于本地镜像）和localpager（用于任务队列）。在330个问题和拉取请求上的测试结果显示：Gemma的F1得分为0.800，每行处理时间1.41秒，每秒输出402.6个令牌；Qwen的F1得分为0.824，每行处理时间13.51秒，每秒输出145.3个令牌；DeepSeek-V4-Flash（284B）的F1得分为0.811，但每行处理时间达144秒。误报率方面，Gemma为227次，Qwen为106次，DeepSeek为30次。作者指出，Blackwell架构的NVFP4量化及vLLM优化可进一步提升精度，而成本仅相当于电力消耗。