recursive llama.cpp 포크에서 Bonsai-27B 실행: 전체 설정 및 RTX 3050 실제 벤치마크
recursive llama.cpp 포크에 관한 세 번째 기사에서는 약한 GPU에서 하이브리드 Bonsai-27B 모델(Delta-Net 선형 아키텍처)을 실행하는 방법을 다루며, 암호산술 과제에서 깊이 D=0과 D=12의 실제 벤치마크를 보여줍니다. 반복을 활성화하면(D=12) 모델이 SEND+MORE=MONEY를 풀었지만, 기본 엔진은 실패했습니다. 설정 명령과 반복 환경 변수가 제공됩니다.
cubetitled-ui
Habr — хаб ИИ06.08 · 00:03