Grup Keamanan AI Berusia Seminggu dari Nvidia Sudah Menunjukkan Kemajuan

Aliansi Terbuka Keamanan AI (OSAA), sebuah kelompok industri yang dipimpin oleh Nvidia dan kini mencakup lebih dari 120 perusahaan, telah membentuk kelompok kerja bernama Pertukaran Temuan AI Bersama (SAFE) dan sudah mengajukan proposal untuk komentar publik, yang dikelola oleh Linux Foundation. Proposal tersebut mencakup pelaporan rahasia insiden keamanan AI, pemberitahuan kepada pihak yang terkena dampak, dan analisis tanpa menyalahkan. Para anggota juga menyumbangkan teknologi sumber terbuka, seperti pemindai kerentanan LLM Garak milik Nvidia, teknologi identitas agen dari Okta, tata kelola agen dari Red Hat, serta Agen Strands dan bahasa otorisasi Cedar dari Amazon. Kelompok ini mencakup nama-nama besar seperti Adobe, BlackRock, Cisco, Intel, Microsoft, dan Visa, tetapi yang menonjol adalah ketidakhadiran Anthropic, OpenAI, dan Google, meskipun OpenAI dan Google menandatangani surat terbuka awal yang mendukung AI sumber terbuka. Kelompok ini bekerja dengan kecepatan AI, terbentuk dengan cepat sebagai respons terhadap potensi ancaman regulasi, dan bertujuan untuk meningkatkan keamanan AI melalui keterbukaan.