قادة الذكاء الاصطناعي يقترحون إرشادات "SAFE" لشفافية الأمن السيبراني
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
يعمل تحالف الذكاء الاصطناعي الآمن المفتوح، الذي يضم أكثر من 120 منظمة، على تطوير إرشادات تبادل النتائج المشتركة للذكاء الاصطناعي (SAFE) لتحويل حوادث الأمن السيبراني المتعلقة بالذكاء الاصطناعي التوكيلي إلى حماية مشتركة. أصدرت مؤسسة Linux طلبًا للتعليقات على إرشادات SAFE، التي صاغها الفريق العامل في التحالف، والذي يضم NVIDIA وCisco وCrowdStrike وHugging Face وRed Hat. تقترح الإرشادات جمع وتحليل حوادث الذكاء الاصطناعي بسرية، وإبلاغ الأطراف المتضررة، وتحديد حالات فشل التحكم المتكررة، ونشر توصيات قائمة على الأدلة لتقليل المخاطر النظامية.
في مؤتمر بلاك هات في لاس فيغاس، يعمل تحالف Open Secure AI Alliance، الذي يضم الآن أكثر من 120 منظمة، على تطوير إرشادات جديدة لتعزيز الأمن السيبراني للذكاء الاصطناعي الوكيل. أعلنت مؤسسة Linux عن طلب تعليقات حول تبادل النتائج المشتركة للذكاء الاصطناعي (SAFE)، وهي مجموعة مقترحة من الإرشادات تهدف إلى تحويل حوادث الأمن السيبراني الوكيل إلى حماية مشتركة. يتم صياغة SAFE بواسطة مجموعة عمل تابعة للتحالف، بمساهمات من NVIDIA وCisco وCrowdStrike وHugging Face وRed Hat. وتتضمن الإرشادات مقترحات لجمع وتحليل حوادث الذكاء الاصطناعي والأخطاء الوشيكة بشكل سري، وإبلاغ المتضررين، وتحديد حالات الفشل الرقابية المتكررة، ونشر توصيات تشغيلية قائمة على الأدلة. ساهمت NVIDIA بعدة أدوات ونماذج مفتوحة المصدر، بما في ذلك NOOA وOpenShell وNemotron وCosmos وIsaac GR00T وBioNeMo وAlpamayo وNeMo Guardrails وNeMo Anonymizer وGarak. وقدم أعضاء آخرون مساهمات عبر طبقات الهوية والأدوات والنماذج والتوفر، بما في ذلك Okta وPalo Alto Networks وRed Hat وAmazon وCapital One وCloudflare وMicrosoft وWiz وVisa وCisco وCrowdStrike وAkamai وCognition وPerplexity وUber وLangChain وVeeam. انضمت Amazon وVisa إلى التحالف؛ قدمت Amazon Strands Agents وCedar، بينما قدمت Visa Visa Vulnerability Agentic Harness. وقامت CrowdStrike بضبط نموذج NVIDIA Nemotron Nano بدقة للدفاع السيبراني.
المصدر: NVIDIA blog —
الأصلي