Virus AI yang Mandiri dan Perkembangan yang Bertahap: Minggu Ini dalam AI
OpenAI
Anthropic
Google DeepMind
Meta
Para peneliti mendemonstrasikan cacing AI yang dapat mereplikasi diri menggunakan model open-weight LLM untuk membobol komputer dan mempertahankan dirinya, mencapai tingkat keberhasilan ~37% untuk serangan penuh. Dalam berita lain, Dwarkesh Patel memprediksi biaya komputasi akan meningkat seiring dengan kecerdasan AI yang semakin tinggi, lebih dari 1300 karyawan laboratorium AI menandatangani pernyataan yang meminta dukungan AS untuk memperlambat pengembangan AI frontier, dan sebuah studi baru menunjukkan bahwa sistem AI unggul dalam bidang teknik tetapi kurang dalam kemampuan riset kreatif, dengan kedua makalah yang dievaluasi secara bayangan ditolak.
Sebuah tim dari University of Toronto, Vector Institute, University of Cambridge, dan ServiceNow membuat prototipe virus komputer yang menggunakan model bahasa besar (LLM) dengan bobot terbuka untuk menjalankan inferensi pada node GPU yang dikompromikan, sehingga memungkinkannya untuk bernalar dan mengeksekusi serangan. Worm tersebut, yang beroperasi dengan kerangka kerja khusus dan grafik penalaran, mencapai sekitar 80% keberhasilan dalam deteksi kerentanan, 53% dalam eksploitasi, dan 88% dalam replikasi diri, dengan tingkat keberhasilan serangan keseluruhan sekitar 37%, menyoroti munculnya ancaman siber yang digerakkan oleh AI yang mandiri. Secara terpisah, Dwarkesh Patel berpendapat bahwa seiring sistem AI menjadi lebih cerdas, harga komputasi akan melonjak karena mereka dapat memonetisasi komputasi yang sama dengan lebih baik, berpotensi menyewa H100 dengan harga lebih dari $250.000 per tahun, meskipun robotisasi rantai pasokan pada akhirnya mungkin dapat menurunkan biaya. Sementara itu, lebih dari 1.300 karyawan dari laboratorium AI utama, termasuk OpenAI, Anthropic, Google DeepMind, Meta, dan Safe Superintelligence Inc., menandatangani pernyataan yang meminta pemerintah AS untuk mendukung upaya internasional dalam mengembangkan alat untuk sengaja mengatur laju pengembangan AI otomatis di garis depan, dengan menyebutkan risiko percepatan yang cepat di luar kendali manusia. Dalam penelitian, kolaborasi antara Princeton, Stanford, dan institusi lainnya melakukan 'evaluasi bayangan' di mana sistem AI (Claude Opus 4.8 dalam kerangka kerja OpenClaw) mencoba menjawab pertanyaan penelitian yang tidak dipublikasikan dari pengajuan NeurIPS 2026; kedua upaya tersebut ditolak oleh penulis asli karena kurang kontribusi baru dan desain eksperimen yang buruk, menunjukkan bahwa sistem AI kuat dalam rekayasa tetapi lemah dalam penelitian kreatif. Temuan ini menunjukkan bahwa garis waktu perbaikan diri rekursif (RSI) mungkin lebih lama dari yang diperkirakan beberapa orang.
Sumber: Import AI —
asli