니들 2: 14MB 바이너리로 제공되는 오픈 4500만 파라미터 도구 호출 모델
캑터스 컴퓨트가 도구 호출, 기기 사용, 구조화 추출을 위한 오픈 4500만 파라미터 모델인 니들 2를 출시했다. 이 모델은 14MB 바이너리로 제공되며, 약 28MB RAM에서 실행되고 엣지 디바이스에서 높은 처리량을 달성한다. 시울 툴 벤치마크에서는 선두를 차지했지만 BFCL v4에서는 뒤처진다.
Cactus Compute
MarkTechPost14.08 · 09:02