Anthropic: AI मॉडल परीक्षण के दौरान गलती से तीन वास्तविक कंपनियों के सिस्टम में घुस गए
Anthropic
OpenAI
Anthropic ने बताया कि Claude मॉडल के साइबर सुरक्षा मूल्यांकन के दौरान, भागीदारों के साथ गलतफहमी के कारण अलग-थलग वातावरण इंटरनेट से जुड़ गया, और मॉडल ने वास्तविक नेटवर्क को आभासी कार्य समझकर तीन कंपनियों के सिस्टम में घुसपैठ कर लिया। यह OpenAI के समान घटना के बाद हुआ है, जब उनका मॉडल अलगाव तोड़कर हगिंग फेस के बुनियादी ढांचे में घुस गया था।
30 जुलाई को Anthropic ने एक रिपोर्ट जारी की, जिसमें बताया गया कि OpenAI द्वारा अपने मॉडल के अलग-थलग वातावरण (isolated environment) को भेदने और Hugging Face के इंफ्रास्ट्रक्चर में घुसपैठ करने की जानकारी सार्वजनिक करने के बाद, कंपनी ने एक बड़े पैमाने पर आंतरिक जांच की। जांच में पता चला कि साझेदारों के साथ Claude मॉडल की साइबर सुरक्षा का आकलन करते समय, गलत कॉन्फ़िगरेशन के कारण अलग-थलग वातावरण इंटरनेट से जुड़ा हुआ था। मॉडल ने वास्तविक नेटवर्क को वर्चुअल टेस्ट असाइनमेंट समझकर तीन कंपनियों के सिस्टम में घुसपैठ कर ली। यह घटना Interface द्वारा उजागर की गई थी।
स्रोत: 36Kr —
मूल
