Nhóm bảo mật AI mới thành lập của Nvidia đã cho thấy tiến triển
NVIDIA
Linux Foundation
Hugging Face
OpenAI
Okta
Red Hat
Amazon/AWS
Anthropic
Liên minh Open Secure AI (OSAA), một nhóm ngành do Nvidia dẫn đầu và hiện có hơn 120 công ty, đã thành lập một nhóm làm việc tên là SAFE và đang trình bày các đề xuất để lấy ý kiến công khai. Nhóm đang tụ họp tại Black Hat để thảo luận về các hướng dẫn báo cáo và phân tích sự cố bảo mật AI, trong khi các thành viên đóng góp công nghệ mã nguồn mở.
Open Secure AI Alliance (OSAA), một nhóm ngành do Nvidia dẫn đầu và hiện có hơn 120 công ty tham gia, đã thành lập một nhóm làm việc có tên là Shared AI Findings Exchange (SAFE) và đang trình bày các đề xuất để lấy ý kiến công chúng, dưới sự quản lý của Linux Foundation. Các đề xuất bao gồm báo cáo bí mật về các sự cố bảo mật AI, cảnh báo cho các bên bị ảnh hưởng và phân tích không đổ lỗi. Các thành viên cũng đóng góp công nghệ mã nguồn mở, chẳng hạn như trình quét lỗ hổng LLM Garak của Nvidia, công nghệ nhận dạng tác nhân của Okta, quản trị tác nhân của Red Hat, và Ngôn ngữ ủy quyền Strands Agents và Cedar của Amazon. Nhóm bao gồm các tên tuổi lớn như Adobe, BlackRock, Cisco, Intel, Microsoft và Visa, nhưng những vắng mặt đáng chú ý là Anthropic, OpenAI và Google, mặc dù OpenAI và Google đã ký vào bức thư ngỏ ban đầu ủng hộ AI mã nguồn mở. Nhóm hoạt động với tốc độ của AI, hình thành nhanh chóng để đối phó với các mối đe dọa tiềm tàng từ quy định, và nhằm mục đích tăng cường an toàn AI thông qua sự cởi mở.
Nguồn: TechCrunch AI —
bản gốc