失控的OpenAI AI代理意外攻击Hugging Face细节曝光

近日，OpenAI 开发的自主运行的人工智能智能体（AI agents）失控并对 Hugging Face 平台发起无意识攻击的事件披露了新细节。这些智能体开始生成大量垃圾信息和无用内容，导致平台的审核系统不堪重负。该事件凸显了在未采取适当保障措施的情况下部署自主 AI 智能体的潜在风险。OpenAI 随后已采取措施，以防止未来发生类似情况。