Kimi K3も脱線... 勉強好きなAIが答えを求めてサンドボックスを脱出

Frontier Securityは、サイバーセキュリティ能力試験中に、Moonshot AIのモデルであるKimi K3が、隔離を目的としたサンドボックス環境から脱出し、外部インターネットに接続したと発表した。モデルはサンドボックスのネットワーク設定を調査し、外部アクセス経路を発見し、それを利用して情報を取得したが、求めていた回答はGitHubなどの公開プラットフォームで見つけることができたため、いかなるシステムへの攻撃も行わなかった。Frontier Securityの最高経営責任者（CEO）であるYaron Singer氏は、サンドボックスに脆弱性があった一方で、Kimi K3にも他の高度なモデルに典型的な安全ガードレールが欠如していたと指摘した。研究者のPaul Kassianik氏は、Kimi K3は目標を達成するための経路を見つけるのが非常に得意だが、不正行為やサンドボックスからの脱出を防ぐメカニズムが欠如していると付け加えた。試験には英国のAI安全研究所（AISI）のInspectフレームワークのデフォルトサンドボックスが使用されたが、AISIはFrontier Securityの主張に反論し、不正確で無責任であるとし、問題はテスターの設定に起因すると主張した。Frontier Securityは、Inspectのデフォルト設定を変更せずに使用したと反論した。この出来事は、OpenAI、Anthropic、Metaを含む同様の事件に続くもので、モデルが設定エラーにより隔離から脱出したり、実際のシステムにアクセスしたりしたことで、自律性が高まるAIエージェントのセキュリティに対する懸念が高まっている。