Sol发生类似逃逸,进入Hugging Face生产系统后,Anthropic在提示下进行审查时发现的。进一步调查后,OpenAI也发现了其他代理逃逸的更多证据。Anthropic已暂停所有网络安全评估,并与METR合作进行审查,同时补充声明,涉及的模型在测试中移除了一些安全护栏,但标准部署版本带有分类器以阻止此类行为。