Các nhà lãnh đạo AI đề xuất hướng dẫn SAFE về minh bạch an ninh mạng

Tại hội nghị Black Hat ở Las Vegas, Open Secure AI Alliance – hiện đã có hơn 120 tổ chức tham gia – đang xây dựng các hướng dẫn mới nhằm tăng cường an ninh mạng cho AI dạng agentic (AI có khả năng tự hành động). Linux Foundation đã công bố bản Request for Comments (Yêu cầu góp ý) về Shared AI Findings Exchange (SAFE), một bộ hướng dẫn được đề xuất nhằm biến các sự cố an ninh liên quan đến AI agentic thành nguồn dữ liệu bảo vệ chung cho cộng đồng. SAFE đang được một nhóm làm việc thuộc liên minh soạn thảo, với sự đóng góp từ NVIDIA, Cisco, CrowdStrike, Hugging Face và Red Hat. Các hướng dẫn bao gồm những đề xuất về việc thu thập và phân tích một cách bảo mật các sự cố AI cùng các trường hợp suýt xảy ra sự cố (near miss), thông báo cho các bên bị ảnh hưởng, xác định các lỗi kiểm soát lặp lại, và công bố các khuyến nghị vận hành dựa trên bằng chứng thực tế. NVIDIA đã đóng góp một số công cụ và mô hình mã nguồn mở, bao gồm NOOA, OpenShell, Nemotron, Cosmos, Isaac GR00T, BioNeMo, Alpamayo, NeMo Guardrails, NeMo Anonymizer và Garak. Các thành viên khác cũng có những đóng góp trên nhiều lớp khác nhau như định danh, khung công cụ (harness), mô hình và tính khả dụng, bao gồm Okta, Palo Alto Networks, Red Hat, Amazon, Capital One, Cloudflare, Microsoft, Wiz, Visa, Cisco, CrowdStrike, Akamai, Cognition, Perplexity, Uber, LangChain và Veeam. Amazon và Visa đã gia nhập liên minh; Amazon đóng góp Strands Agents và Cedar, còn Visa đóng góp Visa Vulnerability Agentic Harness. CrowdStrike đã tinh chỉnh (fine-tune) mô hình NVIDIA Nemotron Nano để phục vụ cho mục đích phòng thủ an ninh mạng.