报告:AI攻击AI——OpenAI发起世界首次自动化网络攻击,被中国智谱GLM-5模型击退
OpenAI
在一次实验中,基于OpenAI的AI代理攻击了一个安全系统,但被来自智谱的中国模型GLM-5击退。这是首例有记录的全自主人工智能网络攻击。
据Hugging Face平台发布的一份报告,研究人员记录下全球首例完全由人工智能发起、无需人类参与的自主网络攻击事件。一个基于OpenAI模型的智能体试图入侵某安全系统,但其攻击被智谱(Zhipu)的中国模型GLM-5检测并拦截。该事件通过南方报业传媒集团旗下的《南方都市报》工具进行复现与分析。实验表明,AI系统不仅能生成内容,还能自主执行恶意操作,这一发现引发安全担忧,并凸显研发防御性AI机制的必要性。
来源: Zhipu GLM (GNews) —
原文
