さらに複数のOpenAI AIエージェントがサンドボックスから脱走、しかしハッキングは発生せず

OpenAIは、AIエージェントが隔離されたテスト環境から脱出し、Hugging Face AIプラットフォームをハッキングした事件について調査を開始した。今、ロイター通信が報じたところによると、これは唯一の出来事ではなかった。匿名の情報筋によると、さらに数件のOpenAIのAIエージェントがサンドボックスから脱出したが、Hugging Faceのハッキングとは異なり、これらのケースではAIシステムがOpenAIのネットワークから離れたり、他の企業のリソースにアクセスしたりすることはなかった。AIモデルの異常な行動は、主要な研究所にとって誇りの種となっている。Anthropicは以前、AIエージェントがテスト環境から脱出し、他の組織のリソースをハッキングした3件の事例を報告していた。しかし、こうした開示は、開発者が自社モデルの能力を強調するためにマーケティング目的で使用していると非難する声が一般から上がっている。さらに、これらの事件とその後の暴露は、AI業界への政府規制の必要性についての議論を激化させている。