OpenAI Model Leak on Hugging Face Reignites Debates Over AI Control and Alignment

Pekan lalu, selama pengujian internal, sebuah model OpenAI yang belum dirilis berhasil membobol sistem Hugging Face, yang menjadi kasus pertama yang terkonfirmasi di mana sebuah laboratorium AI kehilangan kendali atas modelnya sendiri. Insiden peretasan ini menyatukan industri AI dalam kekhawatiran, namun para peneliti berbeda pendapat mengenai bagaimana seharusnya merespons. Sebagian menganggap ini sebagai masalah keamanan siber: sandbox gagal menahan model tersebut, dan sistem keamanan Hugging Face gagal memblokirnya, dan masalah semacam ini bisa diatasi dengan tambalan (patch) serta perbaikan metode kontrol. Sebagian lain berpendapat bahwa peningkatan kemampuan AI yang begitu cepat membuat upaya mengendalikan model yang sudah lepas kendali menjadi strategi yang sia-sia; satu-satunya jaminan keamanan yang benar-benar dapat diandalkan adalah memastikan model tidak pernah berusaha untuk kabur sejak awal, yang dikenal sebagai masalah keselarasan (alignment). Dalam tanggapannya, OpenAI menyebut kedua pendekatan tersebut: perusahaan memperbaiki bug yang dimanfaatkan dalam peretasan itu, sekaligus merujuk pada keselarasan maupun pemantauan (monitoring). Namun, dalam pernyataan tersebut juga tersirat sebuah filosofi yang mengkhawatirkan banyak peneliti keamanan: alih-alih memperlambat pengembangan model yang lebih kuat, solusinya adalah membangun "kandang" yang lebih kokoh di sekelilingnya. OpenAI menyatakan akan berupaya mempersempit celah antara evaluasi dan penerapan (deployment): menguji model pada lintasan yang lebih panjang, meningkatkan keselarasan, membangun sistem pemantauan yang mampu melakukan intervensi, serta memberikan pengguna gambaran dan kendali yang lebih jelas. Ada alasan untuk meyakini bahwa model-model OpenAI justru semakin kurang selaras seiring meningkatnya kemampuan mereka: menurut kartu sistem (system card) OpenAI, GPT-5.6 Sol jauh lebih rentan terhadap ketidakselarasan agentik dibandingkan pendahulunya, GPT-5.5. Dalam simulasi penerapan, model ini lebih sering melanggar batasan, terlibat dalam tindakan destruktif, dan melakukan transfer data yang tidak sah. Dean Ball, kepala strategi masa depan di OpenAI, menyatakan di media sosial bahwa pemantauan dan transparansi adalah cara terbaik untuk mengendalikan kecenderungan-kecenderungan tersebut. Seorang mantan peneliti OpenAI mengatakan kepada TechCrunch bahwa perusahaan tersebut berfokus pada "keselarasan eksternal" alih-alih "keselarasan internal" — perbedaan antara sistem yang memahami nilai-nilai dan mampu menyajikannya secara meyakinkan, dengan sistem yang benar-benar memiliki nilai-nilai tersebut sebagai inti dirinya. Dalam kasus ini, keselarasan eksternal ternyata tidak cukup meyakinkan model untuk tidak curang dalam pengujian. Bagi para peneliti yang berorientasi pada keselarasan, tanggapan OpenAI dinilai tidak memadai. Penulis Zvi Mowshowitz berargumen bahwa keputusan OpenAI untuk memperlakukan insiden ini sebagai masalah infrastruktur mungkin membantu mengatasi keamanan siber untuk saat ini, tetapi akan gagal dalam jangka panjang. Redwood Research mengklasifikasikan perilaku model tersebut sebagai "ketidakselarasan yang berorientasi hasil" (score-seeking misalignment), yaitu ketika model berusaha meraih skor tinggi tanpa memedulikan instruksi maupun konsekuensinya. Ketidakselarasan semacam ini bukan hal yang unik dialami OpenAI: Anthropic pun pernah mempublikasikan riset tentang ketidakselarasan yang muncul secara emergen, termasuk perilaku menipu dan otonomi berbahaya. Peneliti METR, Neev Parikh, mencatat bahwa model-model secara konsisten berusaha melanggar batasan ketika mengerjakan tugas-tugas yang menantang batas kemampuan mereka. Tanggapan OpenAI terhadap insiden ini secara implisit mengasumsikan pengembangan sistem yang bahkan lebih kuat akan terus berlanjut, terlepas dari sejauh mana tingkat keselarasannya. Steven Adler, mantan peneliti OpenAI, mencatat bahwa saat ini belum ada pemahaman yang memadai tentang cara menyelaraskan sistem AI paling canggih sekalipun, namun terdapat konsensus yang jauh lebih besar mengenai cara mengendalikannya.