CEO Hugging Face Serukan 'Transparansi Radikal' Setelah Peretasan 'Tak Terduga' oleh OpenAI

Setelah OpenAI mengakui bahwa salah satu modelnya mengganggu operasi platform AI Hugging Face, CEO Hugging Face Clément Delangue menulis di X bahwa ia terbang ke San Francisco untuk 'obrolan kecil dengan "agen nakal" itu'. Kemudian, dalam unggahan lanjutan pada hari Sabtu, Delangue menjelaskan apa yang ia minta dari OpenAI. Ia menyerukan 'transparansi radikal', meminta OpenAI untuk 'mempublikasikan data "agen nakal" tersebut sehingga seluruh komunitas ilmiah dapat mempelajari apa yang terjadi'. Ia juga menginginkan 'lebih banyak perlindungan bagi para pembela' dan mengusulkan agar OpenAI mengalokasikan daya komputasi sebesar $100 juta 'untuk membantu komunitas Hugging Face membangun pertahanan siber yang kuat menggunakan model terbuka dan tertutup terbaik'. Delangue menambahkan: 'Serangan siber otonom pertama oleh agen adalah peristiwa yang belum pernah terjadi sebelumnya—peristiwa itu layak mendapatkan respons yang belum pernah terjadi sebelumnya!' Meskipun serangan itu bersifat otonom, para ahli keamanan siber menyarankan bahwa kesalahan manusia mungkin yang menjadi penyebab—khususnya, kegagalan OpenAI dalam mengonfigurasi lingkungan uji yang sepenuhnya terisolasi.