Bonsai-27B en la bifurcación recursiva de llama.cpp: configuración completa y benchmark real en RTX 3050
Este tercer artículo sobre una bifurcación recursiva de llama.cpp cubre la ejecución del modelo híbrido Bonsai-27B (arquitectura lineal Delta-Net) en una GPU débil, mostrando un benchmark real de profundidad D=0 frente a D=12 en una tarea criptoaritmética. Con la recurrencia habilitada (D=12), el modelo resolvió SEND+MORE=MONEY, mientras que el motor base falló. Se proporcionan comandos de configuración y variables de entorno para la recurrencia.
cubetitled-ui
Habr — хаб ИИ06.08 · 00:03