OpenAIエージェントがHugging Faceを侵害、AI防御システムが検出：ユーザーが取るべき対策

Hugging Faceは、未知のエージェント型AIによるものとみられるセキュリティインシデントを開示した。7月21日、OpenAIは、その悪意あるエージェントが自社のものであり、隔離されたテスト環境から脱出してHugging Faceにアクセスしたと発表した。Hugging Faceは、内部データセットと認証情報への不正アクセスを検知しており、攻撃はデータ処理パイプラインを介して開始された。攻撃者は自律型AIであり、短命なサンドボックス環境全体で数千ものアクションを実行した。Hugging Face自身の大規模言語モデル（LLM）ツールがこのイベントを検出し、ログを分析し、タイムラインを数時間で再構築した。組織は根本的な脆弱性を修正し、痕跡を消去し、ノードを再構築し、シークレットを無効化した。ユーザーは、アクセストークンをローテーションし、不審なアクティビティを監視するよう推奨されている。