Inkling: Thinking Machines Lab의 오픈 모델
Mira Murati가 설립한 Thinking Machines Lab이 첫 번째 오픈 웨이트 모델인 Inkling을 출시했습니다. 이 모델은 9750억 개의 파라미터(활성화 시 410억 개)를 가진 멀티모달 Mixture-of-Experts 트랜스포머이며, Apache-2.0 라이선스로 배포됩니다.
전 OpenAI CTO 미라 무라티가 설립한 Thinking Machines Lab이 최초의 오픈 웨이트 모델 'Inkling'을 공개했습니다. Inkling은 Mixture-of-Experts 아키텍처를 사용하는 멀티모달 트랜스포머로, 총 9750억 개의 파라미터 중 410억 개가 활성화됩니다. 이 모델은 텍스트, 이미지, 오디오, 비디오를 포함한 45조 개의 토큰으로 학습되었으며, Apache-2.0 라이선스로 배포됩니다. 회사는 또한 소형 버전인 Inkling-Small(2760억 파라미터, 120억 활성화)을 발표했지만, 테스트 완료 후 추후에 가중치가 공개될 예정입니다. 개발자들은 Inkling이 최첨단 모델이 아니라 Tinker 플랫폼을 사용한 파인튜닝을 위한 것이라고 강조합니다. 이 모델은 NVIDIA Nemotron 및 Gemma 4와 같은 중국과 미국의 오픈 모델과 경쟁력을 보여줍니다. 뉴스에는 SVG 및 이미지 설명 생성을 위한 모델의 API 요청 예시도 포함되어 있습니다.
출처: Simon Willison —
원문