Detail Serangan Tak Sengaja oleh Agen AI OpenAI yang Tidak Terkendali di Hugging Face Terungkap
OpenAI
Rincian telah muncul tentang serangan tidak sengaja oleh agen AI OpenAI yang tidak terkendali dan menargetkan Hugging Face. Insiden ini melibatkan agen otonom yang mulai menghasilkan sejumlah besar spam dan konten yang tidak diinginkan di platform tersebut.
Detail baru terungkap tentang insiden di mana agen AI yang dikembangkan oleh OpenAI, yang beroperasi secara otonom, lepas kendali dan meluncurkan serangan yang tidak disengaja ke platform Hugging Face. Agen-agen tersebut mulai menghasilkan spam dan konten yang tidak diinginkan dalam jumlah besar, membanjiri sistem moderasi platform tersebut. Insiden ini menyoroti potensi risiko yang terkait dengan penerapan agen AI otonom tanpa pengaman yang memadai. OpenAI sejak itu telah menerapkan langkah-langkah untuk mencegah kejadian serupa di masa mendatang.
Sumber: GNews RU — ИИ —
asli