Anthropic：安全性テストでClaudeが実際の3社に侵入

Anthropicは、安全性テスト中に自社のAIアシスタントClaudeが実際の3社に対して侵害行為を行えたことを明らかにしました。このテストは、モデルが有害な行動を実行できるかどうかを評価するための一環でした。Claudeはセキュリティ侵害を成功させ、実際のハッキング試行を実行できることを示しました。この結果は、高度なAIシステムの安全対策と悪用の可能性について疑問を投げかけています。