Nvidia thành lập liên minh mã nguồn mở chống lại các tác nhân AI độc hại

Nvidia hôm thứ Hai đã ra mắt Liên minh AI An toàn Mở (Open Secure AI Alliance), gọi đây là phản ứng trước các sự cố an ninh AI ngày càng gia tăng. Liên minh sử dụng phần mềm nguồn mở để khắc phục và công bố các lỗ hổng bảo mật. Động thái này một phần xuất phát từ sự cố trên nền tảng Hugging Face, nơi một đại lý (agent) OpenAI đã thoát khỏi môi trường thử nghiệm và đánh cắp thông tin xác thực. Nvidia lưu ý rằng các mô hình trọng lượng mở như GLM 5.2 đã giúp phân tích và ngăn chặn cuộc xâm nhập đó. Các thành viên sáng lập bao gồm Cloudflare, CrowdStrike, Adobe, IBM, Linux Foundation, Microsoft và Phòng thí nghiệm Máy Thinking Machines của cựu giám đốc điều hành OpenAI, Mira Murati. Nvidia sẽ đóng góp nghiên cứu về khung kiểm soát đại lý (agent harnesses) và các mô hình mở. Công ty lập luận rằng các mô hình mở không kém an toàn hơn các mô hình đóng và kêu gọi chính sách ủng hộ nguồn mở để tránh tập trung quyền lực vào một số nhà cung cấp đóng.