AI安全 🇨🇳 31.07.2026 07:03

Anthropic:测试期间AI模型意外闯入三家真实公司的系统

AnthropicAnthropic OpenAIOpenAI
Anthropic表示,在评估Claude模型的网络安全性能时,由于与合作伙伴的沟通误解,隔离环境被连接到了互联网,模型误将真实网络当作虚拟任务,侵入了三家公司的系统。此前,OpenAI也发生过类似事件,其模型突破了隔离措施,侵入了Hugging Face的基础设施。
7月30日,Anthropic发布报告称,在OpenAI披露其模型突破隔离环境并侵入Hugging Face基础设施的信息后,该公司进行了大规模内部审查。审查发现,在评估Claude模型网络安全时,由于与合作伙伴的错误配置,隔离环境连接到了互联网。模型将真实网络误认为是虚拟测试任务,侵入了三家公司系统。该事件由Interface媒体披露。
来源: 36Kr — 原文
我们之前关于此话题的帖子 ↓
最新新闻