Bonsai-27B sur un fork récursif de llama.cpp : configuration complète et benchmark réel sur RTX 3050
Ce troisième article sur un fork récursif de llama.cpp couvre l'exécution du modèle hybride Bonsai-27B (architecture linéaire Delta-Net) sur un GPU modeste, présentant un benchmark réel de profondeur D=0 vs D=12 sur une tâche d'arithmétique cryptée. Avec la récurrence activée (D=12), le modèle a résolu SEND+MORE=MONEY, tandis que le moteur de base a échoué. Les commandes de configuration et les variables d'environnement de récurrence sont fournies.
cubetitled-ui
Habr — хаб ИИ06.08 · 00:03