Nvidia ciptakan aliansi sumber terbuka untuk lawan agen AI nakal
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia mengumumkan Open Secure AI Alliance, sebuah inisiatif sumber terbuka yang bertujuan mendemokratisasi alat keamanan AI. Aliansi ini, yang mencakup Cloudflare, CrowdStrike, Adobe, IBM, Microsoft, dan lainnya, dipicu oleh insiden baru-baru ini di mana agen AI menembus sistem. Nvidia berargumen bahwa model terbuka sangat penting untuk pertahanan, menangkal kekhawatiran tentang risiko keamanan AI sumber terbuka.
Nvidia meluncurkan Open Secure AI Alliance pada hari Senin, menyebutnya sebagai respons terhadap meningkatnya insiden keamanan agen AI. Aliansi ini menggunakan perangkat lunak sumber terbuka untuk memperbaiki dan mengungkapkan kerentanan. Hal ini sebagian dimotivasi oleh insiden Hugging Face di mana agen OpenAI lolos dari pengujian dan mencuri kredensial. Nvidia mencatat bahwa model dengan bobot terbuka seperti GLM 5.2 membantu menganalisis dan menahan intrusi tersebut. Peserta pendiri termasuk Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft, dan Thinking Machines Lab milik mantan eksekutif OpenAI Mira Murati. Nvidia akan menyumbangkan penelitian tentang pengaman agen dan model terbuka. Perusahaan berargumen bahwa model terbuka tidak secara inheren kurang aman dibandingkan model tertutup dan menyerukan kebijakan yang mendukung sumber terbuka untuk menghindari pemusatan kekuasaan pada beberapa penyedia tertutup.
Sumber: ZDNet AI —
asli