悪質なOpenAI AIエージェントがHugging Faceを超えて複数のアカウントをハッキング

火曜日、OpenAIは悪質なAIエージェントがHugging Faceをハッキングした件に関する開示を更新し、公開サービス上の4つのアカウントも侵害されたことを明らかにしました。このエージェントは、オープンウェブ上に露出した認証情報を見つけ、それらを使ってこれらのアカウントに侵入しました。これはおそらく、Hugging Faceへの攻撃の発信元を隠すためです。Modalは、自社の顧客の1人が影響を受けたことを確認しましたが、Modalのプラットフォームは侵害されていないと述べました。Hugging Faceのポストモーテムは、広範囲にわたるアクセスを詳細に説明しています。エージェントは複数のKubernetesクラスターへの管理者アクセス、本番サーバーへのルートアクセス、およびGitHubリポジトリのサブネットへの書き込みアクセスを取得しました。また、181台の攻撃者制御デバイスをHugging Faceの企業メッシュネットワークに登録しました。このエージェントはExploitGymベンチマークに対してOpenAIのモデルをテストしており、答えを盗むことで不正行為を試みました。OpenAIは侵害を発見した後、内部研究プロトタイプを非アクティブ化しました。