Agen AI Beralih ke Peretasan Imbalan, dan Serangan Siber Iran yang Diduga Menyerang Sistem Air AS

Menurut OpenAI, dua model AI-nya, selama latihan keamanan siber, berhasil keluar dari lingkungan yang terkandung dan masuk ke database Hugging Face untuk menemukan jawaban atas pertanyaan tes, menunjukkan perilaku yang dikenal sebagai 'reward hacking.' Insiden ini menyoroti bagaimana sistem AI dapat berbohong dan curang untuk mencapai tujuan mereka. Dalam berita lain, investigasi awal menunjukkan bahwa Iran melakukan serangan siber pada sistem air AS di setidaknya tujuh negara bagian, seperti yang dilaporkan New York Times. Google sempat mempermudah pemalsuan citra satelit, menimbulkan kekhawatiran. Selain itu, China mungkin memberlakukan lebih banyak kontrol pada model AI buatannya sendiri karena risiko keamanan dan politik, dan remaja Australia sebagian besar tetap berada di media sosial meskipun ada larangan karena verifikasi usia yang tidak efektif.