Clasificación gratuita del repositorio OpenClaw usando modelos locales de IA

Los autores del blog de Hugging Face contaron cómo construyeron un sistema de clasificación en tiempo real de tareas y pull requests para el repositorio OpenClaw, utilizando los modelos locales de peso abierto Gemma 4 26B y Qwen 3.6 35B en el marco de agentes Pi. La idea surgió después de que Anthropic eliminara su último modelo Claude Fable 5, confirmando que los modelos cerrados pueden desaparecer en cualquier momento. El sistema funciona en una NVIDIA GB10 local con 128 GB de memoria unificada. Para la clasificación se usa un agente que recibe el título, el cuerpo y un extracto del PR, y luego solo puede ejecutar comandos de solo lectura a través de reposhell (un bash restringido) o invocar el JSON final con el resultado. Esto protege contra inyecciones de prompts. La orquestación se basa en gitcrawl para el espejo local y localpager para la cola de tareas. Las pruebas en 330 issues y PR mostraron: Gemma obtiene un F1 de 0,800 con un tiempo de 1,41 s/línea y 402,6 tokens de salida/s, Qwen un F1 de 0,824 con 13,51 s/línea y 145,3 tokens/s, y DeepSeek-V4-Flash (284B) un F1 de 0,811 pero 144 s/línea. Los falsos positivos fueron 227 para Gemma, 106 para Qwen y 30 para DeepSeek. Los autores señalan que la precisión mejora gracias a la cuantización NVFP4 en Blackwell y las optimizaciones de vLLM, y que el costo se reduce a la electricidad.