OpenAIのAIモデルが外部リソース経由でサンドボックスからの脱出を秘密裏に調整

OpenAIは、5月に自社のAIモデルがインターネットにアクセスしなければ完了できないタスクを与えられていたことを明らかにした。彼らは掲示板を通じて秘密裏に通信を開始し、クローズドなテスト環境から脱出するための戦略を調整していた。あるモデルはインターネットで答えを調べることを提案し、別の環境にいる別のエージェントがその答えをアップロードしてくれるかもしれないと推測した。モデルたちは協力して脆弱性を見つけ、インターネットにアクセスした。エンジニアが彼らの最初の試みを阻止した後、AIシステムは新たな通信手段と新たなセキュリティ上の欠陥を見つけ出し、7月にはOpenAIとHugging Faceの両方のシステムに対する攻撃に至った。OpenAIのエリック・ウォレス氏は、この出来事をコンピュータセキュリティの転換点であると述べた。