Yapay Zeka Liderleri, Siber Güvenlik Şeffaflığı İçin SAFE Yönergelerini Öneriyor
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
120'den fazla kuruluşu içeren Açık Güvenli Yapay Zeka İttifakı, ajan tabanlı yapay zeka siber güvenlik olaylarını ortak korumaya dönüştürmek için Paylaşılan Yapay Zeka Bulguları Değişimi (SAFE) yönergelerini geliştiriyor. Linux Vakfı, ittifak çalışma grubu tarafından hazırlanan ve NVIDIA, Cisco, CrowdStrike, Hugging Face ve Red Hat'in de dahil olduğu SAFE hakkında bir Yorum Talebi yayınladı. Yönergeler, yapay zeka olaylarının gizli toplanması ve analiz edilmesini, etkilenen tarafların bilgilendirilmesini, tekrarlayan kontrol arızalarının belirlenmesini ve sistemik riski azaltmak için kanıta dayalı önerilerin yayınlanmasını önermektedir.
Las Vegas'ta düzenlenen Black Hat konferansında, artık 120'den fazla kuruluşu bünyesinde barındıran Open Secure AI Alliance, ajan tabanlı yapay zeka siber güvenliğini güçlendirmek için yeni rehber ilkeler geliştiriyor. Linux Foundation, ajan tabanlı siber güvenlik olaylarını ortak korumaya dönüştürmek üzere tasarlanmış önerilen bir dizi rehber ilke olan Shared AI Findings Exchange (SAFE) hakkında Yorum Talebi paylaştı. SAFE, ittifakın bir çalışma grubu tarafından hazırlanıyor ve NVIDIA, Cisco, CrowdStrike, Hugging Face ve Red Hat'ten katkılar içeriyor. Rehber ilkeler, yapay zeka olaylarını ve kıl payı atlatılan durumları gizli olarak toplama ve analiz etme, etkilenenleri bilgilendirme, tekrarlayan kontrol başarısızlıklarını belirleme ve kanıta dayalı operasyonel öneriler yayınlama tekliflerini içeriyor. NVIDIA, NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer ve Garak dahil olmak üzere birçok açık kaynaklı araç ve model katkısında bulundu. Diğer üyeler ise Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain ve Veeam dahil olmak üzere kimlik, koşum takımları, modeller ve kullanılabilirlik katmanları genelinde katkılar yaptı. Amazon ve Visa ittifaka katıldı; Amazon Strands Agents ve Cedar katkısında bulunurken, Visa da Visa Vulnerability Agentic Harness katkısını sağladı. CrowdStrike, siber savunma için NVIDIA Nemotron Nano'yu ince ayarladı.
Kaynak: NVIDIA blog —
orijinal