Pemimpin AI Usulkan Pedoman SAFE untuk Transparansi Keamanan Siber

Pada konferensi Black Hat di Las Vegas, Open Secure AI Alliance, yang kini beranggotakan lebih dari 120 organisasi, sedang mengembangkan pedoman baru untuk memperkuat keamanan siber AI yang agentik. Linux Foundation membagikan Permintaan Komentar tentang Shared AI Findings Exchange (SAFE), seperangkat pedoman yang diusulkan dan dirancang untuk mengubah insiden keamanan siber agentik menjadi perlindungan bersama. SAFE sedang disusun oleh kelompok kerja aliansi, dengan kontribusi dari NVIDIA, Cisco, CrowdStrike, Hugging Face, dan Red Hat. Pedoman tersebut mencakup proposal untuk mengumpulkan dan menganalisis insiden AI serta hampir celah (near misses) secara rahasia, memberi tahu pihak yang terdampak, mengidentifikasi kegagalan kontrol yang berulang, dan menerbitkan rekomendasi operasional berbasis bukti. NVIDIA menyumbangkan beberapa alat dan model sumber terbuka, termasuk NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer, dan Garak. Anggota lain memberikan kontribusi di berbagai lapisan identitas, perangkat, model, dan ketersediaan, termasuk Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain, dan Veeam. Amazon dan Visa bergabung dengan aliansi; Amazon menyumbangkan Strands Agents dan Cedar, sementara Visa menyumbangkan Visa Vulnerability Agentic Harness. CrowdStrike melakukan penyesuaian halus terhadap NVIDIA Nemotron Nano untuk pertahanan siber.