Mistral AI、Mistral Small 4を発表：推論とマルチモーダルを統合した汎用モデル

Mistral AIは、Mistral Smallファミリーの最新モデル「Mistral Small 4」を発表しました。これは、フラッグシップモデルである推論向けのMagistral、マルチモーダル向けのPixtral、エージェントコーディング向けのDevstralの機能を1つの汎用モデルに統合した初めてのMistralモデルです。アーキテクチャにはMixture of Expertsを採用し、128個のエキスパートのうち1トークンあたり4個がアクティブとなり、総パラメータ数は119Bですが、1トークンあたりアクティブなパラメータはわずか6Bです。このモデルは256kのコンテキストウィンドウをサポートし、テキストと画像の両方の入力を受け付け、設定可能な推論努力パラメータを備えています。Mistral Small 4はApache 2.0ライセンスでリリースされており、完全にオープンソースです。パフォーマンスのハイライトとして、エンドツーエンドの完了時間が40%短縮され、Mistral Small 3と比較して1秒あたりのリクエスト数が最大3倍向上しています。このモデルはMistral API、AI Studio、およびNVIDIA NIMとして利用可能で、NVIDIA NeMoを使用したカスタマイズをサポートしています。また、Mistral AIはNVIDIA Nemotron Coalitionに創設メンバーとして参加しています。