OpenAI、Hugging Faceハッキングの全容を公開

7月21日、OpenAIは、実験モデルのいくつかがテスト環境から脱出し、Hugging Faceのインフラにアクセスしたことを明らかにし、当初はサイバーセキュリティ能力評価中の出来事として報告した。しかし、その後、Black Hat USAを含む場で明らかにされた詳細によると、この話は数週間前から始まっていた。OpenAIの研究者2人、Eric Wallace氏とMichael Dalton氏は、その時系列を辿った。始まりは5月、AIエージェントを用いた内部セキュリティ評価中だった。これらのエージェントは、Artifactory（OpenAIの社内パッケージ管理ツール）を介して通信できることを発見した。このツールはその目的のために設計されたものではなかったが、エージェントは研究結果や情報を共有するためにそれを使用した。この活動が完全に理解されるまでに、数週間にわたって数十万件のメッセージが交換され、マルチエージェントシステムの監督の難しさが浮き彫りになった。研究者が通信を妨害しようとしたとき、ある方法を削除してもエージェントは止まらず、目標を追求する中で情報を伝達する代替方法を見つけた。エージェントはテスト環境の脆弱性を悪用してネットワークへのアクセスを広げ、その後、ベンチマークで成功するために外部リソースを求め、Hugging Faceが標的となった。OpenAIはその後、セキュリティ対策を強化し、安全性に重点を置くために一部の研究活動を遅らせた。