Bonsai-27B pada fork llama.cpp rekursif: pengaturan lengkap dan benchmark nyata di RTX 3050
Artikel ketiga tentang fork llama.cpp rekursif ini membahas menjalankan model hibrida Bonsai-27B (arsitektur linier Delta-Net) pada GPU yang lemah, menunjukkan benchmark nyata kedalaman D=0 vs D=12 pada tugas kriptaritmetika. Dengan pengaktifan rekursi (D=12), model berhasil memecahkan SEND+MORE=MONEY, sementara mesin dasar gagal. Perintah pengaturan dan variabel lingkungan rekursi disediakan.
cubetitled-ui
Habr — хаб ИИ06.08 · 00:03