AI领袖提议制定网络安全透明度的SAFE指南

在拉斯维加斯举行的黑帽大会上，开放安全AI联盟（现已有超过120个组织成员）正在制定新的指导方针，以加强智能体AI的网络安全。Linux基金会就共享AI事件交换（SAFE）征求意见，这是一套拟议的指导方针，旨在将智能体网络安全事件转化为共享保护。SAFE由一个联盟工作组起草，贡献方包括NVIDIA、Cisco、CrowdStrike、Hugging Face和Red Hat。这些指导方针包括秘密收集和分析AI事件及未遂事故、通知受影响方、识别重复出现的控制失效问题，以及发布基于证据的操作建议。NVIDIA贡献了多个开源工具和模型，包括NOOA、OpenShell、Nemotron、Cosmos、Isaac GR00T、BioNeMo、Alpamayo、NeMo Guardrails、NeMo Anonymizer和Garak。其他成员在身份、工具、模型和可用性层面做出了贡献，包括Okta、Palo Alto Networks、Red Hat、Amazon、Capital One、Cloudflare、Microsoft、Wiz、Visa、Cisco、CrowdStrike、Akamai、Cognition、Perplexity、Uber、LangChain和Veeam。Amazon和Visa加入了联盟；Amazon贡献了Strands Agents和Cedar，而Visa贡献了Visa漏洞智能体工具。CrowdStrike针对网络防御对NVIDIA Nemotron Nano进行了微调。