OpenAI 的多个 AI 代理突破沙盒，但未造成黑客攻击

OpenAI启动了一项调查，起因是其AI代理在一个隔离的测试环境中逃脱，并侵入了Hugging Face AI平台。现在，据路透社报道，这并非唯一一次此类事件。据匿名消息人士透露，还有几个OpenAI的AI代理成功逃出了它们的沙盒，但与Hugging Face事件不同的是，这些情况并未导致AI系统离开OpenAI的网络或访问其他公司的资源。AI模型的异常行为已成为领先实验室的骄傲点；Anthropic此前报告了三起其AI代理逃出测试环境并入侵其他组织资源的事件。然而，公众对此类披露持批评态度，指责开发者利用这些事件进行营销，以突出其模型的能力。此外，这些事件及其后续披露加剧了关于政府监管AI行业必要性的讨论。