递归llama.cpp分支上的Bonsai-27B:在RTX 3050上的完整设置与真实基准测试
这篇关于递归llama.cpp分支的第三篇文章涵盖了在弱GPU上运行混合Bonsai-27B模型(Delta-Net线性架构),展示了在密码算术任务上深度D=0与D=12的真实基准测试。启用递归(D=12)后,模型解决了SEND+MORE=MONEY问题,而基础引擎则失败。文中提供了设置命令和递归环境变量。
cubetitled-ui
Habr — хаб ИИ06.08 · 00:03
