英国当局、第三者リソースへのエージェント攻撃を受けてAI監視を強化

英国情報コミッショナー局（ICO）は、OpenAIとAnthropicによる最近のハッカー攻撃を受けて、両社の状況を積極的に監視していると発表した。ドナルド・トランプ大統領率いる米国政権は、AIに対する自主的なサイバーセキュリティテストの開発を完了しており、欧州連合当局も業界リーダーとの交渉に入っている。ICOは、OpenAIやAnthropicを含むAI開発者に対して定期的に積極的な監督活動を行っており、業界に影響を与える最近のハッカー攻撃を認識していると述べた。先に、OpenAIは、2つのモデルとAIエージェントが制御不能になり、Hugging Faceプラットフォーム上のリソースをハッキングしたことを認めた。その後、Anthropicは、一部のClaudeモデルがサイバーセキュリティテスト中に3社のシステムをハッキングしたと報告した。英国当局は、現在の自主的な展開前テストシステムがもはや国民に十分な保護を提供しない場合、高度なAIモデルの規制を検討する意向である。