Nvidia'nın Bir Haftalık Yapay Zeka Güvenliği Grubu Zaten İlerleme Gösteriyor
NVIDIA
Linux Foundation
Hugging Face
OpenAI
Okta
Red Hat
Amazon/AWS
Anthropic
Nvidia liderliğindeki ve artık 120'den fazla şirketi kapsayan bir endüstri grubu olan Açık Güvenli Yapay Zeka İttifakı (OSAA), SAFE adında bir çalışma grubu oluşturdu ve açık yorum için öneriler sunuyor. Grup, yapay zeka güvenlik olaylarını raporlama ve analiz etme yönergelerini tartışmak üzere Black Hat'ta bir araya geliyor; üyeler ayrıca açık kaynaklı teknolojilere katkıda bulunuyor.
Open Secure AI Alliance (OSAA), Nvidia'nın öncülüğünü yaptığı ve artık 120'den fazla şirketi içeren bir endüstri grubu, Shared AI Findings Exchange (SAFE) adlı bir çalışma grubu oluşturdu ve Linux Foundation yönetiminde kamu yorumuna sunulan önerileri şimdiden sunuyor. Öneriler; AI güvenlik olaylarının gizli raporlanması, etkilenen tarafların uyarılması ve suçlama içermeyen analizleri kapsıyor. Üyeler ayrıca Nvidia'nın Garak LLM güvenlik açığı tarayıcısı, Okta'nın ajan kimlik teknolojisi, Red Hat'in ajan yönetimi ve Amazon'un Strands Agents ve Cedar yetkilendirme dili gibi açık kaynak teknolojilere katkıda bulunuyor. Grupta Adobe, BlackRock, Cisco, Intel, Microsoft ve Visa gibi büyük isimler yer alıyor, ancak Anthropic, OpenAI ve Google dikkat çekici şekilde eksik; oysa OpenAI ve Google, açık kaynak AI'yı destekleyen ilk açık mektuba imza atmıştı. Grup, AI hızında hareket ediyor ve potansiyel düzenleyici tehditlere yanıt olarak hızla oluştu; açıklık yoluyla AI güvenliğini artırmayı amaçlıyor.
Kaynak: TechCrunch AI —
orijinal