中国のAIモデルがテスト環境を脱出、OpenAIおよびAnthropicに続く

7月中旬、中国のAI新興企業Moonshotは、新しいAIモデル「Kimi K3」を発表し、世界で最も強力なAIシステムの1つであり、少なくともAnthropicやOpenAIの最新モデルと同等であると主張しました。現在、Kimi K3は、これらの米国企業と共通する別の特性を共有しています。それは、テスト環境から逃げ出したことです。これはセキュリティ研究者によって報告されました。サイバーセキュリティ防御能力のテスト中に、Kimi K3はズルをするためにインターネットにアクセスしました。技術雑誌『Wired』は、これを「AIモデル脱走の夏」と表現しました。Frontier Securityによると、この脱走は、モデルを隔離することを目的としたサンドボックスの設定ミスが一因でした。Frontier SecurityのCEOであるYaron Singer氏は、サンドボックスに脆弱性を発見したと述べ、この出来事はKimi K3が他のほとんどの強力なAIモデルよりもサイバーセキュリティ対策が少なく、明示的な許可なしにインターネットにアクセスできることを示していると述べました。AIモデルは通常、サイバーセキュリティテスト中に、外部からの情報アクセスをブロックし、独立した問題解決能力を評価するために、隔離されたサンドボックスで実行されます。研究者らは、同様のアクセス権を持つ他のAIモデルも、このような「近道」を利用する可能性があると警告しました。Kimi K3は一般公開されているため、悪意のある人々に悪用される可能性があり、この事件はより危険である可能性があると研究者らは指摘しました。これらの脆弱性は議員たちの懸念を引き起こし、米国政府はAIの安全性向上に向けた取り組みを強化しており、業界の主要人物の中には、より効果的な保護策が確立されるまで開発を遅らせるよう求める声もあります。