Shieldstral：Mistralの小型オープンウェイトモデルが、はるかに大型の安全性分類器を凌駕

新しい論文によると、フランスのAI企業Mistralが開発した30億パラメータのモデル「Shieldstral」は、一般的なテキスト安全性ベンチマークにおいて、3倍の規模のモデルと同等の性能を達成した。テキストと画像の同時分類では、新たな最高精度を記録したと主張している。既存の安全性モデルは、固定されたカテゴリ体系を用いることが多く、著者ら（Mistralの共同創業者であるGuillaume Lampleを含む）は、これには2つの弱点があると見ている。すなわち、公開されている安全データセットのカテゴリが不均一であること、そして固定カテゴリが特定のユースケースに適応しないことである。Shieldstralは、コンテンツモデレーションを「はい/いいえ」の質問に簡素化する。運営者は、「このコンテンツは暴力を助長しますか？」など、何をチェックすべきかを自然言語で定式化し、モデルは「はい」か「いいえ」のみで応答する。システムは、両回答の確率から0から1の間の安全スコアを算出する。研究者らは、安全性、有害コンテンツ、操作の試みに関するさまざまなデータセットから約5410万件の例を統合フォーマットにまとめた。モデルにより細かい区別を学習させるため、別の言語モデルに安全なテキストを安全でない変種に書き換えさせ、各例には、明確に適用されるべきではない類似しているが異なるカテゴリを付随させた。これにより、Shieldstralは、安全と不安全の概略的な区別ではなく、密接に関連するルールの区別を学習した。テキストベンチマークの統合では、ShieldstralはF1スコア84.9%を達成し、約7倍の規模のOpenAIのGPT-OSS-Safeguard-20Bと並び、Qwen3Guard-8B（84.0）、Nemotron-3.5-Safety-4B（83.3）、LlamaGuard-4-12B（69.1）を上回った。画像および画像・テキスト組み合わせでは、83.8%のスコアで、OmniGuard-7B（77.6）とLlavaGuard-7B（71.6）を上回った。適応ベンチマークでは、GPT-OSS-Safeguard-20Bが94.1%でリードし、Shieldstralは91.3%であるが、著者らは、他モデルは長い中間ステップを生成し計算コストが増加するのに対し、Shieldstralは単語のみを出力するため、より実用的であると論じている。Shieldstralは、MistralのMinistral-3BとPixtralの画像認識に基づいている。細かいカテゴリの検証セットでのテストでは、合成カテゴリデータによりF1スコアが23.3パーセントポイント向上した。Shieldstralは、Apache-2.0ライセンスの下でオープンウェイトモデルとして利用可能である。安全性分類器は、実際の言語モデルの前後に配置される検証レイヤーであり、入力と出力をチェックする。利点は、再トレーニングなしでルールを変更できることだが、チェックはすべてのリクエストで実行されるため、分類器のサイズ、速度、コストが重要である。Shieldstralの核となる主張は、運営者が実行時に独自の基準を定式化できれば、外部のカテゴリシステムに依存するのではなく、アプリケーションに合わせてフィルターを調整できるということである。