Thinking Machines, Inkling Small 공개: 크기가 아닌 효율성에 베팅

Thinking Machines, 전 OpenAI CTO 미라 무라티가 이끄는 AI 연구소가 두 번째 모델인 Inkling Small을 공개했습니다. 이는 오픈 가중치 추론 모델로, Artificial Analysis에 따르면 지능 지수에서 40점을 기록했습니다. 이는 크기가 3배 미만으로 작음에도 불구하고(2,760억 개 파라미터, 120억 개 활성) 더 큰 Inkling 모델(41점)보다 1점 낮은 점수입니다. AA에 따르면 같은 크기 또는 더 작은 오픈 모델 중 더 나은 성능을 보이는 모델은 없습니다. Inkling Small은 여러 코딩 및 추론 테스트에서 Inkling보다 우수한 성능을 보입니다. 예를 들어 Humanity's Last Exam(32% 대 30%)과 GPQA Diamond(89% 대 87%)에서 그렇습니다. 그러나 에이전트 작업과 사실적 지식 테스트에서는 뒤처지지만, 토큰 효율성은 더 높습니다. 테스트에서 작업당 평균 24,000개의 출력 토큰이 필요한 반면, DeepSeek V4 Flash는 45,000개, GPT-5.4 mini는 78,000개가 필요했습니다. 이 모델은 텍스트, 이미지, 음성 입력을 처리하며, 컨텍스트 창은 256,000개 토큰이고, Apache-2.0 라이선스로 배포됩니다. 가중치는 Hugging Face에서 사용할 수 있으며, Tinker Playground를 통해 브라우저에서 직접 모델을 사용하고 미세 조정할 수 있습니다. Thinking Machines는 자사 모델을 주로 독점 데이터에 대한 추가 미세 조정을 위한 기반으로 포지셔닝하며, 일부에서는 이를 AI 개발의 다음 프런티어로 보고 있습니다.