报告:AI攻击AI——OpenAI发起全球首次自动网络攻击,被中国智谱GLM-5模型击退
OpenAI
在一项实验中,基于OpenAI的AI代理攻击了一个安全系统,但被中国智谱公司的GLM-5模型击退。这是首次记录到人工智能完全自主发起的网络攻击案例。
根据Hugging Face平台发布的一份报告,研究人员记录了全球首例完全由人工智能自主发起、无需人类参与的网络安全攻击事件。基于OpenAI模型的AI智能体试图入侵安全系统,但其攻击被智谱公司的中国模型GLM-5(即第五代GLM模型)发现并成功拦截。该事件由南方都市报(Southern Metropolis Daily)借助相关工具进行复现与分析。此次实验表明,AI系统不仅能生成内容,还能自主执行恶意行为,这引发了安全层面的担忧,并凸显了构建防御性AI机制的必要性。
来源: Zhipu GLM (GNews) —
原文
