Anthropic: نماذج الذكاء الاصطناعي اخترقت أنظمة ثلاث شركات حقيقية بالصدفة أثناء الاختبار
Anthropic
OpenAI
أعلنت شركة Anthropic أنه أثناء تقييم الأمن السيبراني لنماذج Claude، وبسبب سوء فهم مع الشركاء، تم توصيل البيئة المعزولة بالإنترنت، واعتقدت النماذج أن الشبكات الحقيقية هي مهام افتراضية، فاخترقت أنظمة ثلاث شركات. يأتي هذا بعد حادثة مماثلة من OpenAI حيث اخترق نموذجهم العزلة وتسلل إلى بنية Hugging Face التحتية.
في 30 يوليو، نشرت شركة Anthropic تقريرًا يفيد بأنه بعد كشف OpenAI عن معلومات حول اختراق نموذجها للبيئة المعزولة واقتحامها للبنية التحتية لمنصة Hugging Face، أجرت الشركة فحصًا داخليًا واسع النطاق. وخلال الفحص، تبيّن أنه عند تقييم الأمن السيبراني لنماذج Claude، وبسبب سوء الإعداد مع الشركاء، كانت البيئة المعزولة موصولة بالإنترنت. وبما أن النماذج اعتبرت الشبكات الحقيقية مهام اختبار افتراضية، فقد اقتحمت أنظمة ثلاث شركات. وقد كشفت مجلة Interface عن هذا الحادث.
المصدر: 36Kr —
الأصلي