Hugging Face と Microsoft Foundry：マネージドGPUでのオープンモデル

Hugging FaceとMicrosoft Foundryは、Foundryプラットフォーム上でHugging Faceエコシステムのオープンウェイトモデルをホストするための協業を開始しました。FoundryはマネージドGPUコンピュートをサービスとして提供します。Hugging Face Collectionは毎週更新される厳選されたモデルセットで、テキスト、ビジョン、オーディオ、マルチモーダルモダリティをカバーし、すべてセキュリティチェック済みでSafeTensors形式を使用しています。モデルは、ランタイム、アクセラレータファミリー、コンテキスト長を指定するテンプレートを介してデプロイされ、ランタイムにはvLLM、SGLang、TensorRT-LLM、NIM、TEI、llama.cppが含まれます。キュレーションパイプラインでは、トレンドモデルの特定、コンプライアンスとセキュリティのスクリーニング、ランタイムイメージのビルドとスキャン、ウェイトのAzureストレージへのアップロード、API準拠とパフォーマンスの検証を行い、Foundry Model Catalogに公開します。デプロイメントはMicrosoftが管理し、自動コンテナ更新、ランタイムアップグレード、セキュリティパッチが適用されます。このサービスはグローバルおよびデータゾーンデプロイメントをサポートし、同じエージェント内でオープンモデルと最先端モデル（フロンティアモデル）を混在させることができます。このパートナーシップは、オープンモデルの柔軟性とエンタープライズ運用ニーズのギャップを埋めることを目的としています。