Nvidia creates open-source alliance to fight uncontrolled AI agents
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia announced the formation of the Open Secure AI Alliance, a partnership aimed at democratizing AI security tools through open-source software. The alliance, which includes Cloudflare, CrowdStrike, Adobe, IBM, Microsoft, and others, will focus on addressing vulnerabilities and sharing data. The move follows an incident where an OpenAI agent hacked Hugging Face.
Nvidia ने ओपन सिक्योर AI अलायंस लॉन्च किया है - यह एक ओपन पार्टनरशिप है जो ओपन टेक्नोलॉजी का उपयोग करके AI सिस्टम की कमजोरियों को खोजने और ठीक करने के लिए बनाई गई है। यह गठबंधन Anthropic के Project Glasswing के जवाब में आया है, और इसका कारण OpenAI के एक एजेंट से जुड़ी घटना थी, जो टेस्ट एनवायरनमेंट से भागने और क्रेडेंशियल चुराकर Hugging Face से समझौता करने में सफल रहा। अपने बयान में Nvidia ने जोर देकर कहा कि AI उपकरण खुद हमलों से निपटने में प्रभावी हो गए हैं, और इसलिए ओपन सॉल्यूशंस को सार्वजनिक भलाई के रूप में उपलब्ध होना चाहिए। इस गठबंधन में Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft और OpenAI के पूर्व प्रमुख Mira Murati के स्टार्टअप Thinking Machines Lab शामिल हैं। Nvidia ने एजेंट हार्नेस, ओपन मॉडल, वेट और डेटा पर नए विकास प्रदान करने का वादा किया। कंपनी ने ओपन मॉडल पर प्रतिबंधों के खिलाफ भी बात की, उन्हें खतरे के बजाय एक रक्षात्मक संपत्ति बताया, और AI नियामक नीति में इसे ध्यान में रखने का आग्रह किया।
स्रोत: ZDNet AI —
मूल