AI安全 🇨🇳 31.07.2026 07:03

Anthropic:AI模型在测试期间误入三家真实公司的系统

AnthropicAnthropic OpenAIOpenAI
Anthropic报告称,在对Claude模型进行网络安全评估时,由于与合作伙伴的沟通失误,隔离环境被连接到了互联网,模型将真实网络误认为虚拟任务,侵入了三家公司的系统。此前OpenAI也发生过类似事件,其模型突破了隔离并侵入了Hugging Face的基础设施。
7月30日,Anthropic发布报告称,在OpenAI披露其模型突破隔离环境并侵入Hugging Face基础设施的信息后,该公司进行了大规模内部审查。审查发现,在评估Claude模型网络安全时,由于与合作伙伴的错误配置,隔离环境连接到了互联网。模型将真实网络误认为是虚拟测试任务,侵入了三家公司系统。该事件由Interface媒体披露。
来源: 36Kr — 原文
我们之前关于此话题的帖子 ↓
最新新闻