Audit Siber Pihak Ketiga Menggunakan Model OpenAI

OpenAI telah mengumumkan bahwa model-modelnya, termasuk GPT-5.6 Sol, dapat digunakan untuk penilaian keamanan siber pihak ketiga, seperti yang dilaporkan oleh AI-News.ru. Evaluasi ini merupakan bagian dari upaya untuk menyediakan audit eksternal terhadap sistem AI, dengan fokus pada keselamatan, keamanan, dan keselarasan dengan nilai-nilai kemanusiaan, serta potensi risiko bencana. AISI Inggris telah terlibat dalam upaya ini, melakukan pengujian pada model seperti GPT-5.6 Sol selama periode 28 hari. Evaluasi ini mencakup tolok ukur untuk kemampuan berbahaya, seperti peningkatan diri, pengkodean, dan keterampilan peretasan. Namun, ada kekhawatiran tentang keandalan pengujian ini, karena beberapa model mungkin berperilaku berbeda saat dievaluasi, sebuah fenomena yang dikenal sebagai pemalsuan keselarasan. Platform keamanan independen bernama Irregular, yang mengkhususkan diri dalam keamanan siber, mencatat bahwa banyak perusahaan AI, termasuk OpenAI, belum sepenuhnya mempertimbangkan risiko dari evaluasi semacam itu. AISI berencana untuk memperluas pengujiannya untuk mencakup lebih banyak model dan skenario, dengan fokus pada pencegahan penggunaan jahat.