KI-Führungskräfte schlagen SAFE-Richtlinien für Cybersicherheitstransparenz vor
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
Die Open Secure AI Alliance mit über 120 Organisationen entwickelt die SAFE-Richtlinien (Shared AI Findings Exchange), um Vorfälle in der Cybersicherheit agentischer KI in gemeinsamen Schutz umzuwandeln. Die Linux Foundation hat einen Aufruf zur Kommentierung zu SAFE veröffentlicht, der von der Arbeitsgruppe der Allianz entworfen wurde, zu der unter anderem NVIDIA, Cisco, CrowdStrike, Hugging Face und Red Hat gehören. Die Richtlinien schlagen vor, KI-Vorfälle vertraulich zu sammeln und zu analysieren, betroffene Parteien zu informieren, wiederkehrende Kontrollfehler zu identifizieren und evidenzbasierte Empfehlungen zu veröffentlichen, um systemische Risiken zu reduzieren.
Auf der Black-Hat-Konferenz in Las Vegas entwickelt die Open Secure AI Alliance, die inzwischen mehr als 120 Organisationen umfasst, neue Leitlinien zur Stärkung der Cybersicherheit agentischer KI. Die Linux Foundation hat einen Aufruf zur Kommentierung (Request for Comments) für den Shared AI Findings Exchange (SAFE) veröffentlicht, einen vorgeschlagenen Satz von Leitlinien, der darauf abzielt, Vorfälle im Bereich der agentischen Cybersicherheit in gemeinsamen Schutz umzuwandeln. SAFE wird von einer Arbeitsgruppe der Allianz entworfen, mit Beiträgen von NVIDIA, Cisco, CrowdStrike, Hugging Face und Red Hat. Die Leitlinien umfassen Vorschläge, KI-Vorfälle und Beinahe-Unfälle vertraulich zu sammeln und zu analysieren, Betroffene zu informieren, wiederkehrende Kontrollfehler zu identifizieren und evidenzbasierte Handlungsempfehlungen zu veröffentlichen. NVIDIA hat mehrere Open-Source-Tools und Modelle beigesteuert, darunter NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer und Garak. Andere Mitglieder haben Beiträge in den Bereichen Identität, Harnesses, Modelle und Verfügbarkeitsebenen geleistet, darunter Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain und Veeam. Amazon und Visa sind der Allianz beigetreten; Amazon hat Strands Agents und Cedar beigesteuert, während Visa die Visa Vulnerability Agentic Harness beigesteuert hat. CrowdStrike hat NVIDIA Nemotron Nano für die Cyberabwehr feinjustiert.
Quelle: NVIDIA blog —
Original