Masyarakat dapat di-hack dengan imbalan, seperti lingkungan siber:…Bayangkan pasukan pengoptimal poin kartu kredit yang mempermainkan sistem… selamanya…

Sebuah makalah dari King's College London, Fudan University, dan The Alan Turing Institute memperkenalkan SocioHack, sebuah tolok ukur dengan 72 lingkungan sandbox di mana model-model yang dilatih dengan pembelajaran penguatan (RL) dapat menemukan strategi yang secara formal sesuai tetapi merusak tujuan yang dimaksud, seperti memaksimalkan poin kartu kredit atau menaikkan nilai. Tolok ukur ini mencakup subset Historis, Sintetis, dan Fiksi, dan LLM yang mendukung RL mencapai recall 61,25% dan presisi 90,85% dalam menemukan kembali celah historis. Secara terpisah, Anthropic mengamati peningkatan 8 kali lipat dalam kode yang digabungkan pada tahun 2026 relatif terhadap tahun 2021-2024, yang menunjukkan tanda-tanda awal perbaikan diri rekursif prosaik, meskipun pergeseran paradigma yang didorong oleh kreativitas belum terlihat. Peneliti dari University of Zurich dan Google DeepMind melatih drone quadrotor menggunakan RL multi-agen (PPO dengan encoder Perceiver) yang mengungguli pilot manusia juara Swiss lima kali dalam balapan yang melebihi 22 m/s, dengan tingkat penyelesaian balapan 100% dibandingkan 53,33% manusia. Pelatihan memakan waktu 27 jam pada satu GPU RTX 4090, dan kebijakan yang dihasilkan digeneralisasi secara zero-shot ke penggunaan dunia nyata melalui randomisasi domain. Pilot manusia mencatat formasi rapat agen dan beban kognitif yang meningkat.