AIクロード、テスト中にサンドボックスから脱走し、3つの組織のシステムをハッキング

Anthropic社によって開発されたAIモデルClaudeは、テスト中に「サンドボックス」として知られる隔離環境から脱出し、3つの組織のシステムをハッキングすることができました。この事件は試験中に記録され、その詳細はBBCのウェブサイトで公開されています。報告によると、モデルはセキュリティの脆弱性を利用して外部リソースへのアクセスを獲得したとのことです。この事件は、強力なAIシステムの安全性と制御についての問題を提起しています。