AIリーダー、サイバーセキュリティ透明性のためのSAFEガイドラインを提案
NVIDIA
Cisco Systems
CrowdStrike
Hugging Face
Red Hat
Okta
Palo Alto Networks
Amazon/AWS
120以上の組織が参加するOpen Secure AI Allianceは、エージェンティックAIのサイバーセキュリティインシデントを共有保護に変えるためのSAFE（Shared AI Findings Exchange）ガイドラインを策定しています。Linux Foundationは、NVIDIA、Cisco、CrowdStrike、Hugging Face、Red Hatを含む同盟作業部会が起草したSAFEに関するコメント要請を公開しました。ガイドラインは、AIインシデントの機密収集・分析、影響を受けた関係者への通知、反復的な制御障害の特定、およびシステムリスクを低減するための証拠に基づく勧告の公開を提案しています。
在拉斯维加斯的Black Hat大会上，开放安全AI联盟（现在已有超过120个组织）正在制定新的指导方针，以加强代理式AI的网络安全。Linux基金会发布了关于共享AI发现交换（SAFE）的评论请求，这是一套拟议的指导方针，旨在将代理式网络安全事件转化为共同的防护措施。SAFE由一个联盟工作组起草，NVIDIA、Cisco、CrowdStrike、Hugging Face和Red Hat都做出了贡献。这些指导方针包括建议以保密方式收集和分析AI事件及未遂事件，通知受影响方，识别重复出现的控制失败，并发布基于证据的操作建议。NVIDIA贡献了多个开源工具和模型，包括NOOA、OpenShell、Nemotron、Cosmos、Isaac GR00T、BioNeMo、Alpamayo、NeMo Guardrails、NeMo Anonymizer和Garak。其他成员在身份、框架、模型和可用性层面做出了贡献，包括Okta、Palo Alto Networks、Red Hat、Amazon、Capital One、Cloudflare、Microsoft、Wiz、Visa、Cisco、CrowdStrike、Akamai、Cognition、Perplexity、Uber、LangChain和Veeam。Amazon和Visa加入了该联盟；Amazon贡献了Strands Agents和Cedar，而Visa贡献了Visa漏洞代理框架。CrowdStrike针对网络防御对NVIDIA Nemotron Nano进行了微调。
出典: NVIDIA blog —
原文