Motor recursivo llama.cpp na RTX 3050: Testes com Qwen 32B e 7B Coder — Aumento de 3x na Qualidade e Uso de Memória

O autor do artigo continua testando um fork do llama.cpp que implementa um modo recursivo (designado D=12) contra o motor padrão (D=0). Os testes foram executados em uma placa de vídeo RTX 3050 6 GB, com todos os modelos em quantização Q4. Para o grande modelo Qwen 32B-A3B, em tarefas de benchmark fáceis, ambos os motores produziram resultados idênticos, mas a versão recursiva foi ligeiramente mais lenta. No segmento difícil, o motor recursivo corrigiu quase 3,1 vezes mais erros na tarefa de revisão de código, embora tenha levado 17% mais tempo. O autor observa que o motor recursivo resolve o problema da 'geração preguiçosa de código', produzindo scripts monolíticos completos em vez de fragmentos fragmentados. Para o Qwen 2.5 Coder 7B Instruct, a versão recursiva teve melhor desempenho na revisão de código (encontrou mais um bug), no desenvolvimento fullstack atendeu totalmente aos requisitos, enquanto a versão padrão não, e no teste de jogo 2D foi um empate, com o motor recursivo evitando tags inexistentes e implementando a lógica básica do jogo. Para o Mistral 7B Instruct v0.2, o motor recursivo melhorou significativamente a segurança (98% protegido), melhorou drasticamente a plataforma fullstack (melhora de 2,2x, 100% da lógica de negócios) e produziu um layout de jogo mais limpo. A principal desvantagem é uma redução de velocidade de cerca de 13% e maior consumo de VRAM. O autor fornece links para o repositório do fork e para o Google Drive com resultados detalhados.