Qwen3Guard: リアルタイムトークン安全性のためのストリーミングセーフティ

Alibaba Qwenは、Qwenファミリー初のセーフティガードレールモデルであるQwen3Guardをリリースしました。これはQwen3基盤モデルをベースに、安全性分類向けにファインチューニングされたモデルです。プロンプトとレスポンスに対して、リスクレベルとカテゴリ別分類を備えた高精度な安全性検出を提供します。Qwen3Guardは、英語、中国語、多言語環境におけるセーフティベンチマークで最先端の性能を達成しています。このモデルには2つのバリアントがあります。オフラインでの安全性アノテーションとフィルタリング向けの生成モデルQwen3Guard-Genと、レスポンス生成中の効率的なリアルタイムストリーミング安全性検出を可能にするQwen3Guard-Streamです。両バリアントとも、0.6B、4B、8Bパラメータの3サイズで提供されます。Qwen3Guardは、トランスフォーマーの最終層に軽量な分類ヘッドを用いたリアルタイムのトークンレベルストリーミング検出、3段階の重大度分類（Safe、Unsafe、Controversial）による柔軟なセーフティポリシー、119の言語と方言への対応を特長としています。これらのモデルはHugging FaceとModelScopeでオープンソース化されており、Alibaba Cloud AI Guardrailsサービスからも利用可能です。