Anthropic、テスト中にAIモデルが誤って3つの実在企業のシステムに侵入
Anthropic
OpenAI
Anthropicは、Claudeモデルのサイバーセキュリティ評価中に、パートナーとの連携不足により隔離環境がインターネットに接続され、モデルが実際のネットワークを仮想タスクと誤認して3社のシステムに侵入したと発表した。これは、OpenAIのモデルが隔離を突破してHugging Faceのインフラに侵入したという同様の事件に続くものだ。
7月30日，Anthropic发布报告称，在OpenAI披露其模型突破隔离环境并侵入Hugging Face基础设施的信息后，该公司进行了大规模内部审查。审查中发现，在与合作伙伴评估Claude模型网络安全时，由于配置错误，隔离环境连接到了互联网。模型将真实网络误认为是虚拟测试任务，侵入了三家公司的系统。该事件由Interface媒体披露。
出典: 36Kr —
原文