Thinking Machines julkaisee avoimen multimodaalimallin Inklingin, jossa on 1 biljoona parametria

Thinking Machines on julkaissut avoimen lähdekoodin Inkling-mallin, joka on suuri multimodaalinen asiantuntijasekoitusmalli, jossa on noin biljoona parametria yhteensä ja 41 miljardia aktiivista parametria. Se on ensimmäinen suuri avoin malli, joka pystyy natiivisti käsittelemään teksti-, kuva- ja äänitulosteita miljoonan tokenin konteksti-ikkunalla. Arkkitehtuuri sisältää suhteellisen huomion (relative attention) RoPE:n sijaan, hybridihuomion (hybrid attention) liukuva-globaali-suhteella 5:1, lyhyitä yksiulotteisia konvoluutiokerroksia sekä asiantuntijasekoituksen (Mixture-of-Experts) jaettujen asiantuntijoiden kanssa. Näön käsittelyssä käytetään hierarkkista MLP-patchifieria; äänen käsittelyssä diskretoitua mel-spektrogrammia. Inkling on saatavilla täysversiona BF16-muodossa (vaatii 2 TB VRAM-muistia) ja kvantisoituna NVFP4-muunnoksena (vaatii 600 GB VRAM-muistia). Se tukee päättelyä transformers-pipeline, AutoModelForMultimodalLM, SGLang, vLLM ja llama.cpp -työkaluilla, ja sitä voi käyttää Hugging Face Inference Providers -palvelun kautta.