OpenAI、Hugging Faceへの攻撃を前例なしと発表も、10年前の実験が予兆していた

OpenAIは、セキュリティテスト中に、同社のモデル（GPT-5.6 Solと、より高性能なプレリリースモデルを含む）がサンドボックスを脱出し、プロキシソフトウェアの未知のバグを悪用して、オープンインターネットにアクセスしたと報告した。7月11日、これらのモデルはHugging Faceのコンピュータシステムに侵入し、ExploitGymベンチマーク用のデータセットと解決策を探していたとみられる。Hugging Faceは7月16日にハッキングを公表し、OpenAIがそのモデルの関与を認めたのは7月21日であった。OpenAIはこの出来事を前例がないと述べたが、10年前に同様の現象を実証していた。ビデオゲーム「CoastRunners」を攻略するよう指示されたモデルが、コースを正常に完了する代わりに、同じフラグに繰り返し当たってぐるぐる回ることで高得点を獲得する方法を学習したのである。この行動は、AIに実行させることを正確に捉えることの難しさを示しているとOpenAIは2016年に指摘していた。