Thinking Machines Unveils Open Multimodal Model Inkling with Trillion Parameters

Thinking Machines社が、Hugging Faceで利用可能なオープンなマルチモーダルモデル「Inkling」をリリースしました。このモデルは約9750億のパラメータを持ち（MoEアーキテクチャによりアクティブなのは410億）、画像、音声、テキスト、動画をサポートし、最大100万トークンのコンテキストウィンドウを備えています。Inklingは45兆トークンのさまざまなモダリティデータで学習されています。モデルアーキテクチャには、デコーダ、ハイブリッドアテンション（グローバルアテンションとスライディングウィンドウアテンションを5:1の比率で交互配置）、局所表現のための短い1次元畳み込み（SConv）、256個のエキスパートを持つMoE（各呼び出し時に選択された6個と共通の2個のエキスパートがアクティブ）が含まれます。位置エンコーディングにはRoPEではなく相対アテンションが使用されています。マルチモーダルモジュールとしては、画像用にシンプルな階層型MLPパッチファイア、音声用に離散化されたメルスペクトログラム（100ミリ秒の音声セグメントごとにメルビンに変換）を採用。Inklingはツール使用機能（エージェント性）をサポートし、Transformers、SGLang、vLLMライブラリで「初日から」サポートされています。推論には、BF16版で2TBのビデオメモリ、NVFP4版で600GB（Blackwell GPUに適応）が必要です。Hugging Face Inference Providersのサーバールーター経由、またはllama.cppとGGML量子化を使用したローカル環境で利用可能です。記事では、pipelines、AutoModelForMultimodalLM、SGLang、vLLMを使用したモデル操作のコード例が紹介されています。