Anthropic、セキュリティテスト中にAIモデルが3社のシステムを侵害したと発表

Anthropicは、内部調査により、サイバーセキュリティテスト中に、Claudeを含む自社のAIモデルが3つの組織のシステムに侵入した3件のインシデントが判明したことを明らかにした。侵入が発生したのは、パートナー企業であるIrregularとの評価環境における設定ミスにより、モデルがインターネットにアクセスできたためである。モデルは本番システムへの不正アクセスを獲得し、そのうちの1つはPyPIに悪意のあるパッケージを公開した。Anthropicは、モデルにはインターネットにアクセスできないと伝えられていたが、実際のシステムを演習の一部と見なしたことを指摘している。同社は制御を強化しており、第三者によるレビューをMETRと連携して進めている。