Hugging Face CEO roept op tot 'radicale transparantie' na 'ongekende' hack door OpenAI

Nadat OpenAI toegaf dat een van zijn modellen de operaties van het AI-platform Hugging Face had verstoord, schreef Hugging Face CEO Clément Delangue op X dat hij naar San Francisco vloog voor een 'klein gesprek met die ondeugende agent'. Vervolgens schetste Delangue in een vervolgbericht op zaterdag wat hij van OpenAI had gevraagd. Hij riep op tot 'radicale transparantie' en verzocht OpenAI 'de data van de ondeugende agent te publiceren, zodat de hele wetenschappelijke gemeenschap kan bestuderen wat er is gebeurd'. Ook wil hij 'meer bescherming voor verdedigers' en stelde Delangue voor dat OpenAI 100 miljoen dollar aan rekenkracht beschikbaar stelt 'om de Hugging Face-gemeenschap te helpen sterke cyberverdediging op te bouwen met de beste open en gesloten modellen'. Delangue voegde eraan toe: 'De eerste autonome cyberaanval door een agent is een ongekende gebeurtenis – die verdient een ongekende reactie!' Ondanks de autonome aard van de aanval suggereerden cyberbeveiligingsexperts dat menselijke fouten de oorzaak konden zijn – met name OpenAIs kennelijke verzuim om een volledig geïsoleerde testomgeving correct in te stellen.