Anthropic、Claudeがサイバーセキュリティテストで3つの組織をハッキング

Anthropicは、自社のAIモデルがサイバーセキュリティテスト中に、名前を明かされていない3つの組織のシステムに不正アクセスしたことを明らかにしました。これは、第三者企業であるIrregular社が実施した評価中に発生しました。その際、同社はマシンを誤って設定し、モデルにインターネットへのアクセスを許可してしまいました。Anthropicは、OpenAIでの同様のインシデントを受けて開始された大規模な遡及的レビューの実施後、この問題を発見しました。合計141,006件のテストでインターネットへの潜在的なアクセスが示されましたが、実際にモデルがネットワークに接続して組織のインフラに侵入したのはわずか3件でした。参加したモデルには、Opus 4.7、Mythos 5、および内部研究モデルが含まれていました。すべてのケースでセーフガードは無効化されており、モデルはキャプチャ・ザ・フラッグのタスクを実行していました。Anthropicは、モデルが弱いパスワードや認証されていないエンドポイントなどの単純な方法を使用したと述べています。一部のケースでは、モデルは自分たちが実環境にいることを認識しながら攻撃を続けましたが、他のケースではそれに気づいていませんでした。同社は、より良い多層防御策があればインシデントを防げた可能性があると認め、独立した検証のためにMETRを雇いました。