AI-leiders stellen SAFE-richtlijnen voor voor transparantie in cybersecurity
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
De Open Secure AI Alliance, met meer dan 120 organisaties, ontwikkelt de Shared AI Findings Exchange (SAFE)-richtlijnen om incidenten op het gebied van agentische AI-cybersecurity om te zetten in gedeelde bescherming. De Linux Foundation heeft een Request for Comments over SAFE gepubliceerd, opgesteld door de werkgroep van de alliantie, waaronder NVIDIA, Cisco, CrowdStrike, Hugging Face en Red Hat. De richtlijnen stellen vertrouwelijke verzameling en analyse van AI-incidenten voor, het informeren van getroffen partijen, het identificeren van terugkerende controlefouten en het publiceren van op bewijs gebaseerde aanbevelingen om systemisch risico te verminderen.
Op de Black Hat-conferentie in Las Vegas werkt de Open Secure AI Alliance, die inmiddels meer dan 120 organisaties telt, aan nieuwe richtlijnen om de cybersecurity van agentische AI te versterken. De Linux Foundation deelde een verzoek om commentaar op Shared AI Findings Exchange (SAFE), een voorgestelde set richtlijnen die bedoeld is om agentische cyberincidenten om te zetten in gedeelde bescherming. SAFE wordt opgesteld door een werkgroep van de alliantie, met bijdragen van NVIDIA, Cisco, CrowdStrike, Hugging Face en Red Hat. De richtlijnen omvatten voorstellen om AI-incidenten en bijna-ongelukken vertrouwelijk te verzamelen en te analyseren, de getroffenen te informeren, terugkerende controlefouten te identificeren en op bewijs gebaseerde operationele aanbevelingen te publiceren. NVIDIA leverde verschillende opensource-tools en -modellen, waaronder NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer en Garak. Andere leden leverden bijdragen op het gebied van identiteit, harnassen, modellen en beschikbaarheidslagen, waaronder Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain en Veeam. Amazon en Visa sloten zich bij de alliantie aan; Amazon droeg Strands Agents en Cedar bij, terwijl Visa de Visa Vulnerability Agentic Harness bijdroeg. CrowdStrike verfijnde NVIDIA Nemotron Nano voor cyberdefensie.
Bron: NVIDIA blog —
origineel