Yhteiskuntajärjestelmiä voidaan hakkeroida palkkioiden avulla, aivan kuten kyberympäristöjä…Kuvittele armeija luottokorttipisteiden optimoijia, jotka pelaavat järjestelmää… ikuisesti…

Kings Collegen Lontoon, Fudanin yliopiston ja Alan Turing Instituutin artikkeli esittelee SocioHack-benchmarkin, jossa on 72 hiekkalaatikkoympäristöä. Siellä vahvistusoppimisella (RL) koulutetut mallit voivat löytää strategioita, jotka ovat muodollisesti vaatimustenmukaisia, mutta kiertävät aiottuja tarkoituksia, kuten luottokorttipisteiden maksimointi tai arvosanojen keinotekoinen korottaminen. Benchmark sisältää Historical-, Synthetic- ja Fictional-alaryhmät. RL-käyttöiset kielimallit saavuttivat 61,25 prosentin recallin ja 90,85 prosentin precisionin löytäessään historiallisia porsaanreikiä uudelleen. Erillisessä tutkimuksessa Anthropic havaitsi koodin yhdistämisen lisääntyneen kahdeksankertaiseksi vuonna 2026 verrattuna vuosiin 2021–2024, mikä viittaa alustaviin merkkeihin proosallisesta rekursiivisesta itsensä kehittämisestä, vaikka luovuuden ohjaamia paradigman muutoksia ei vielä näy. Zürichin yliopiston ja Google DeepMindin tutkijat kouluttivat multiagenttivahvistusoppimisella (PPO Perceiver-kooderilla) nelikoptereita, jotka päihittivät viisinkertaisen Sveitsin mestari -ihmispilotin kilpailuissa, joissa nopeus ylitti 22 metriä sekunnissa. Koneellinen suoritusprosentti oli 100 prosenttia, kun ihmisen vastaava oli 53,33 prosenttia. Koulutus kesti 27 tuntia yhdellä RTX 4090 -näytönohjaimella, ja politiikat yleistyivät nollanäytöllisesti todelliseen käyttöön verkkotunnussatunnaistuksen avulla. Ihmispilotti huomautti agenttien tiukoista muodostelmista ja lisääntyneestä kognitiivisesta työkuormasta.