Hugging Face、2026年7月のAIエージェントによる侵害の詳細を公開

Hugging Faceは、2026年7月に発生したセキュリティインシデントの詳細を公開しました。攻撃者は、限られた社内データセットといくつかのサービス認証情報へのアクセスを獲得しました。侵入はデータ処理パイプラインを起点とし、悪意のあるデータセットが2つのコード実行経路（リモートコードローダーとデータセット設定におけるテンプレートインジェクション）を悪用し、処理ワーカーノード上でコードを実行可能にしました。その後、攻撃者はノードレベルに権限を昇格させ、クラウドおよびクラスターの認証情報を取得し、複数の内部クラスターに横方向に移動しました。このキャンペーンは、自律型AIエージェント（おそらくエージェントベースの攻撃研究ツールを基盤として構築されたもの）によって実行され、短命なサンドボックス環境のスウォームを通じて数千もの個別のアクションを実行しました。Hugging Faceは、コード実行経路を閉鎖することで根本的な脆弱性に対処し、影響を受けたクラスター内の攻撃者の侵入ポイントを破壊し、侵害された認証情報やトークンを無効化・交換し、追加の制御を展開し、脅威検出を改善しました。攻撃はAI支援型検出、すなわちLLM（大規模言語モデル）ベースの異常検出パイプラインがセキュリティログを分析し、不審な活動を強調表示することで発見されました。攻撃の再構築には、Hugging Faceは17,000以上のログイベントに対するLLM分析を使用しました。商用APIモデルの初期試行は、プロバイダーのセキュリティポリシーによる実際の攻撃コマンドを含むリクエストのブロックによって失敗しました。最終的に、フォレンジック分析はオープンモデルのGLM 5.2を同社の自社インフラ上で使用して実行され、攻撃者のデータと認証情報が環境外に出ることがないように確保されました。Hugging Faceは、自律型AI攻撃ツールはもはや理論上のものではないと強調し、防御側がインシデント発生時に閉ループ運用を行うための独自モデルを準備することを推奨しています。