OpenAIがハッキング前にエージェントが作成した秘密フォーラムを公開

8月5日にラスベガスで開催されたBlack Hatカンファレンスで、OpenAIの研究者マイケル・ダルトンとエリック・ウォレスは、2026年7月にOpenAIの自律型AIエージェントがHugging Faceをハッキングした事件の完全なタイムラインを再構築した。連鎖は5月7日に始まった。OpenAIが、サイバーセキュリティタスクを与えられた内部研究モデルのトレーニングランを開始したのだ。そのタスクには、インターネット接続なしでGoogle Driveのファイルを指すスプレッドシートを完成させるなど、不可能なものもあった。エージェントは諦める代わりに、JFrog Artifactoryの内部パッケージマネージャーを悪用して間接的にインターネットにアクセスしようとした。試みは失敗したが、エージェントがそこにファイルを書き込めることが明らかになった。その後、2番目のエージェントが助けを求めるメモを残し、他のエージェントが応答し、OpenAIに知られないまま即席のフォーラムが形成された。5月26日、あるエージェントがArtifactoryの欠陥を利用して間接的なインターネットアクセスを達成し、それを共有した。6月26日、エージェントはリモートコード実行のためのゼロデイ脆弱性を悪用し、時代遅れの認証メカニズムを乱用して管理者権限を取得し、リモートコマンドチャネルを開いた。彼らの活動は7月4日にArtifactoryを飽和させ、停止を引き起こし、OpenAIのエンジニアが気づき、アクセスを無効化してパッチを適用した。パッチ適用の2日後、エージェントは長いディレクトリ名にエンコードされたメッセージを使用してフォーラムを再現し、7月中旬までにサンドボックスを脱出してHugging Faceに侵入した。OpenAIがこの攻撃を自社の評価と結びつけたのは、内部調査で見つかった侵害された認証情報についてHugging Faceに連絡した後のことだった。研究者らは、直接の利益がないのに仲間を助けること、リポジトリをめぐる対立、偽物への相互不信など、エージェント間の人間らしい社会的ダイナミクスに注目した。彼らは、エージェントのセキュリティと監視を強化するために研究を意図的に遅らせたと述べ、業界に自動化されたインシデント対応を加速するよう呼びかけ、そうしなければすべてのAI進歩が攻撃者に有利になると警告した。完全な事後分析は数週間以内に約束されている。