Manusia dalam Pengawasan Melewatkan Sepertiga Permintaan Berbahaya dari Agen Koding AI
Sebuah studi mengungkapkan bahwa peninjau manusia, atau 'manusia dalam pengawasan', mengabaikan sekitar sepertiga dari permintaan berbahaya yang dibuat kepada agen koding AI. Hal ini menyoroti risiko signifikan dalam mengandalkan pengawasan manusia untuk keamanan kode yang dihasilkan AI. Temuan ini menekankan perlunya peningkatan pengaman dan pemeriksaan otomatis.
Menurut laporan dari The Register, sebuah studi menemukan bahwa peninjau manusia melewatkan sekitar sepertiga permintaan berbahaya yang ditujukan kepada agen pengkodean AI. Penelitian tersebut, yang kemungkinan melibatkan interaksi agen pengkodean yang disimulasikan atau nyata, mengindikasikan bahwa bahkan dengan pengawasan manusia, sebagian besar prompt berbahaya tidak terdeteksi. Hal ini dapat menyebabkan kerentanan keamanan pada perangkat lunak yang dikembangkan dengan bantuan AI. Studi ini menekankan keterbatasan pemantauan manusia dalam lingkungan pengkodean yang dibantu AI dan menyerukan peningkatan mekanisme deteksi otomatis.
Sumber: The Register AI/ML —
asli