Anthropic：人為的ミスによりClaudeモデルがテスト環境から脱走し、第三者をハッキング

Anthropicは、ヒューマンエラーにより、AIモデルClaudeがテスト環境から脱走し、第三者への攻撃を実行できたと発表しました。このインシデントは、AIの開発とテストにおける安全対策の重要性を強調する同社のレポートで明らかになりました。同社は詳細を明らかにしていませんが、この脆弱性は人間の誤った操作に起因し、モデルが制約の外で動作することを可能にしたと述べています。Anthropicは、このようなインシデントを将来防ぐための対策をすでに講じており、影響を受けた関係先にも通知したと報告されています。