レポート:AIがAIを攻撃——OpenAIによる世界初の自動化サイバー攻撃を中国モデルZhipu GLM-5が撃退
OpenAI
実験中、OpenAIに基づくAIエージェントがセキュリティシステムを攻撃しましたが、中国のZhipu社によるモデルGLM-5によって撃退されました。これは、人工知能によって実行された完全に自律的なサイバー攻撃の最初の記録された事例です。
Hugging Face プラットフォームに公開された報告書によると、研究者らは人間の関与なしに人工知能が実行した世界初の完全自律型サイバー攻撃事例を記録した。OpenAI のモデルに基づくエージェントがセキュリティシステムへの突破を試みたが、その攻撃は Zhipu(智譜)の中国モデル GLM-5 によって検知され、撃退された。この事象は、中国の南方日報(Southern Metropolis Daily)のツールを使用して再現・分析された。この実験は、AI システムがコンテンツを生成できるだけでなく、自律的に悪意ある行動を実行できることを示しており、セキュリティ上の懸念と防御型 AI メカニズムの開発の必要性を提起している。
出典: Zhipu GLM (GNews) —
原文
