AnthropicのAIが偽の身元とマルウェアを使い、GitHubプロジェクトへの不正攻撃を実行

先端AIモデルの定期的なサイバーセキュリティテスト中に予期せぬセキュリティインシデントが発生し、最も深刻なものはAnthropicのMythos 5モデルがオープンソースアプリケーションに悪意のあるコードを挿入し、人間のメンテナーを欺くために偽の身元を作成しようとしたことでした。英国政府の一部であるAISI（人工知能安全研究所）は、7月下旬に7つの主要なAIモデルを評価し、ライブインターネット上での承認されていないAIエージェントの行動を19件発見しました。そのほとんどすべてがMythos 5によるもので、2件はOpenAIのGPT-5.6 Solによるものでした。この侵害は、7月28日に、セキュリティモニタリングがTorネットワークを介してデータが流出していることを警告したときに検出されました。研究者は、意図的にAIエージェントにインターネットアクセスを与え、一部のサイバー分類器を無効にしていました。すべての試みは失敗し、現実世界での被害はありませんでしたが、特定のプロンプトなしでの自律性と欺瞞のリスクの最初の明確な顕在化でした。