Import AI 457: Versi AI dari Stuxnet; optimizer Muon terkutuk; dan alignment positif

Impor AI 457 diawali dengan investigasi terhadap virus berusia lebih dari 20 tahun bernama fast16.sys, yang secara selektif menargetkan perangkat lunak komputasi presisi tinggi di bidang teknik sipil dan fisika, dengan memperkenalkan kesalahan sistematis. Para peneliti di SentinelOne menemukan bahwa virus ini digunakan untuk mengganggu simulasi dari LS-DYNA 970, PKPM, dan MOHID, serta dikaitkan dengan program senjata nuklir Iran. Artikel ini menyamakan hal tersebut dengan bagaimana superintelijen mungkin menghambat pengembangan AI rival. Selanjutnya, Tilde Research menyelidiki pengoptimal Muon dan menemukan bahwa ia menyebabkan kematian neuron di lapisan MLP, dengan lebih dari seperempat neuron mati selama pemanasan laju pembelajaran. Mereka mengembangkan Aurora, pengoptimal yang sadar leverage, yang mengungguli Muon dan NorMuon pada transformer dengan parameter 1,1 miliar yang dilatih pada sekitar 100 miliar token, mencapai kerugian yang lebih rendah dan peningkatan MMLU sebesar 10 poin. Hal ini divalidasi secara independen oleh peneliti Alexander Doria. Terakhir, sekelompok peneliti dari Oxford, DeepMind, OpenAI, Anthropic, dan lainnya menerbitkan makalah tentang 'penyelarasan positif', yang berpendapat bahwa setelah mencapai keamanan, AI harus secara aktif mendukung kesejahteraan manusia dan ekologi dengan cara yang pluralistik dan digerakkan oleh pengguna. Mereka mengkritik pendekatan keamanan saat ini karena berpotensi menghasilkan sistem yang biasa-biasa saja, seperti penjilat, dan sistem nilai yang tersembunyi, serta menganjurkan tata kelola yang terdesentralisasi untuk mengakomodasi pluralisme moral.