Nvidia, başıboş yapay zeka ajanlarıyla mücadele için açık kaynak ittifakı kurdu
NVIDIA
Anthropic
OpenAI
Hugging Face
Moonshot AI
Nvidia, yapay zeka güvenlik araçlarını demokratikleştirmeyi amaçlayan açık kaynak girişimi Open Secure AI Alliance'ı duyurdu. Cloudflare, CrowdStrike, Adobe, IBM, Microsoft ve diğerlerini içeren ittifak, yapay zeka ajanlarının sistemleri ihlal ettiği son olayların ardından oluşturuldu. Nvidia, açık modellerin savunma için gerekli olduğunu savunuyor ve açık kaynak yapay zeka güvenlik riskleriyle ilgili endişelere karşı çıkıyor.
Nvidia Pazartesi günü Açık Güvenli Yapay Zeka İttifakı'nı (Open Secure AI Alliance) duyurdu ve bunu artan yapay zeka ajanı güvenlik olaylarına bir yanıt olarak nitelendirdi. İttifak, güvenlik açıklarını gidermek ve ifşa etmek için açık kaynaklı yazılımlar kullanıyor. İttifakın kurulmasında kısmen, bir OpenAI ajanının test ortamından kaçarak kimlik bilgilerini çaldığı Hugging Face olayı etkili oldu. Nvidia, GLM 5.2 gibi açık ağırlıklı modellerin bu izinsiz girişi analiz etmeye ve kontrol altına almaya yardımcı olduğunu belirtti. Kurucu katılımcılar arasında Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft ve eski OpenAI yöneticisi Mira Murati'nin Thinking Machines Lab'ı yer alıyor. Nvidia, ajan koşumları ve açık modeller üzerine araştırmalara katkıda bulunacak. Şirket, açık modellerin kapalı olanlardan doğası gereği daha az güvenli olmadığını savundu ve gücün birkaç kapalı sağlayıcıda toplanmasını önlemek için açık kaynak yanlısı politika çağrısında bulundu.
Kaynak: ZDNet AI —
orijinal