Phân loại kho lưu trữ OpenClaw miễn phí bằng mô hình AI cục bộ

Bài viết trên blog cho thấy cách các tác giả thay thế các mô hình AI đóng bằng các mô hình trọng số mở cục bộ để phân loại các vấn đề và pull request trong kho lưu trữ OpenClaw, xuất phát từ rủi ro các mô hình đóng có thể bị loại bỏ (dẫn chứng việc loại bỏ Claude Fable 5 của Anthropic). Sử dụng một bộ khung có tên 'localpager-agent' với reposhell (một shell chỉ đọc bị giới hạn), hệ thống phân loại từng mục vào các danh mục như local_models, self_hosted_inference, v.v. Họ đã thử nghiệm Gemma 4 26B và Qwen 3.6 35B trên hệ thống NVIDIA GB10 (bộ nhớ hợp nhất 128 GB). Gemma đạt độ hồi tưởng cao hơn (0,905) và thông lượng cao hơn (1,41 giây mỗi hàng, 16 worker đồng thời), trong khi Qwen có độ chính xác cao hơn (0,831) và độ khớp chính xác cao hơn (0,540), nhưng mất 13,51 giây mỗi hàng với chỉ 4 worker. Một kiến trúc bán tác nhân chỉ sử dụng LLM để phân loại; các thông báo dựa trên quy tắc. Hệ thống xử lý các mục thông qua nhân bản gitcrawl, lưu kết quả trong SQLite và thông báo qua Discord.